Microsoft випускає набір інструментів Agent Governance Toolkit для безпечного керування ШІ-агентами

Оскільки автономні ШІ-агенти отримують доступ до запису файлів, зміни баз даних продакшену та виконання живих викликів API, управління безпекою стає першочерговим завданням. Новий Agent Governance Toolkit від Microsoft є прямою відповіддю на цей ризик, пропонуючи фреймворк для впровадження суворих обмежень безпеки та затверджень дій агентів. Він надає розробникам структурований спосіб реалізації меж безпеки, ведення аудит-логів та вимоги багатофакторного затвердження для деструктивних операцій у терміналі. Замість надання агенту повної свободи дій, інструментарій перехоплює запити на виконання та перевіряє їх на відповідність визначеним схемам політик JSON. Під капотом інструментарій використовує патерн проксі, який знаходиться між моделлю агента та операційною системою хоста. Коли агент робить запит на виклик інструменту (наприклад, запис у локальний конфіг), проксі перехоплює дію, пропускає її через локальний двигун правил і, у разі спрацювання прапорця, зупиняє виконання до підтвердження адміністратором. Вердикт: Набір інструментів управління від Microsoft є обов'язковим шаром безпеки для розгортання автономних агентів.