Oleksandr Kuzmenko, РедакторОпубліковано 6 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Фокусується на стрес-тестах життєвого циклу, включаючи повторні атаки застарілих схвалень і ротацію ключів
- Використовує ядро на Node 24+ без залежностей, що взаємодіє через протокол JSONL у subprocess
- Розділяє регресії безпеки (FAIL) та незаявлені можливості середовища (UNSUPPORTED)
Перевірка інваріантів безпеки в агентних процесах
Коли AI-агенти вносять зміни в робоче оточення, відкликання дозволів має негайно блокувати всі активні та заплановані операції. Проєкт agent-governance-test-harness пропонує автоматизований набір стрес-тестів для перевірки граничних умов під час життєвого циклу агента.
Серед ключових сценаріїв тестування:
- Відкликання дозволу, перезапуск і повторна атака: дія отримує схвалення, права на запис скасовуються, система штатно перезапускається, після чого надсилається старий запит на виконання. Фреймворк гарантує, що операція блокується.
- Відхилення запиту чужого суб'єкта: авторизований клієнт намагається виконати дію за схваленим ідентифікатором іншого користувача. Шлюз повинен відхилити операцію до використання токена схвалення.
- Звуження повноважень після ротації ключів: перевірка обмеження прав доступу після зміни облікових даних у пам'яті та SQLite.
Архітектура протоколу через Subprocess
Ядро інструмента працює на Node 24+ без сторонніх залежностей. Взаємодія з тестованим агентом здійснюється через незалежний протокол JSONL через стандартні потоки введення/виведення (subprocess). Це дозволяє тестувати стек на Python без зміни коду фреймворку.
Запуск поточної тестової конфігурації:
npm run harness -- run --runtime subprocess-reference --suite currentРезультати оцінюються статусами PASS, FAIL або UNSUPPORTED. Статус UNSUPPORTED означає, що середовище не заявляє підтримку певної функції (наприклад, довготривалого збереження стану чи ручного схвалення), що запобігає хибним спрацьовуванням у CI.
