Anthropic відкриває код фреймворку для пошуку вразливостей за допомогою ШІ

Семиетапний цикл пошуку вразливостей

Відкритий фреймворк defending-code-reference-harness від Anthropic надає автономний конвеєр для пошуку та виправлення вразливостей пам'яті в коді на C/C++. Система проходить сім окремих етапів: збірка (Build - компіляція за допомогою Docker та ASAN), розвідка (Recon - розбиття кодової бази легковажним агентом), пошук (Find - паралельний пошук для виявлення збоїв), верифікація (Verify - відтворення аварійних завершень іншим агентом у новому середовищі), звітність (Report) та виправлення (Patch).

Ізоляція в пісочниці та команди CLI

Оскільки автономні агенти виконують цільовий код, безпека є головним пріоритетом архітектури. Конвеєр відхиляє запуск поза пісочницею gVisor, якщо це не дозволено примусово. Розробники можуть налаштувати оточення за допомогою команди scripts/setup_sandbox.sh та запускати сканування через bin/vp-sandboxed. Фреймворк підтримує інтерактивні команди Claude Code, серед яких /quickstart, /threat-model, /vuln-scan, /triage, /patch та /customize.

Кастомізація та налаштування моделей

Розробники можуть адаптувати конвеєр для підтримки інших мов програмування, детекторів або класів вразливостей, окрім помилок роботи з пам'яттю в C/C++, за допомогою команди /customize. Крім того, система дозволяє закріплювати суб-агентів за конкретними ідентифікаторами моделей Claude для керування ефективністю та вирішення проблем із лімітами запитів (rate limits) під час роботи.