Метод ретроспективної адаптації контекстних ваг ШІ-агентів і порогів автономності в ІТ-проєктах

Анотація

У статті розглянуто науково-прикладне завдання ретроспективного уточнення параметрів колективного прийняття управлінських рішень спеціалізованими агентами штучного інтелекту в динамічному середовищі ІТ-проєкту. Метою дослідження є розроблення методу, який після завершення керованого епізоду зіставляє локальні прогнози агентів із фактичними наслідками, коригує їх контекстні ваги та узгоджено змінює пороги автономного виконання наступних рішень. Запропонований метод розділяє оперативний і ретроспективний контури. В оперативному контурі ваги визначаються за відповідністю ролі, компетентністю, якістю даних і накопиченою надійністю агента в конкретному класі контексту. У ретроспективному контурі внесок агента оцінюється за зміною колективної втрати з його оцінкою та без неї, а не за збігом із більшістю. Пороги впевненості й ризику адаптуються за згладженими частотами небезпечного автономного виконання та необґрунтованої ескалації. Кандидатні параметри вводяться лише після контрольної перевірки й не змінюють пояснення вже виконаних рішень. Експериментальну перевірку проведено на відтворюваному імітаційному сценарії з однією тисячею дев’ятьмастами двадцятьма епізодами, шістьма спеціалізованими агентами, чотирма альтернативами та чотирма класами контексту. У середній частині послідовності вводився контрольований дрейф точності одного спеціалізованого агента. Повний варіант методу забезпечив точність вибору близько сімдесяти двох відсотків і зменшив середнє нормоване жалкування приблизно на тридцять сім відсотків порівняно з незваженим агрегуванням. За близької частки автономних рішень частота небезпечного автономного виконання була більш ніж удвічі нижчою, ніж за фіксованих контекстних ваг і порогів. Наукова новизна полягає у контекстно локалізованому ретроспективному оновленні ваг агентів та спільній адаптації порогів автономності із запобіжною перевіркою, версіонуванням і вимогою неретроактивності. Практичне значення полягає у зниженні залежності якості колективного рішення від застарілої репутації агентів і статичних правил автоматизації.