Паттерн архітектури від Google: Мультиагентна система з 11-етапною валідацією для складних пайплайнів даних
Google Research описав Biomarker Discovery Framework — мультиагентну систему, що поєднує генеративні розсуди з детермінованими обчисленнями. Головна особливість — 11-етапна загороджувальна перевірка (агенти Critic та Defender) для запобігання витоку даних, перенавчанню та галюцинованим кореляціям.
Вплив: Середній
Чому це важливо
Ви можете застосувати паттерн змагальних агентів (Critic/Defender) та структурний факт-шит від Google для усунення витоку даних та галюцинацій у власних аналітичних ШІ-агентах.
TL;DR
- 01Генеративні агенти повинні працювати в парі з детермінованими середовищами виконання коду для гарантії точності обчислень.
- 02Розділення агентів на опонуючі ролі Critic і Defender запобігає надмірній впевненості та відсіює хибні кореляції.
- 03Структурований факт-шит фіксує числову правду між різними фазами виконання мультиагентного пайплайну.
Ключові факти
- Обсяг вибірки тестування
- 9,279 спостережень
- Знайдено кандидатів
- 41 для ментального здоров'я, 25 метаболічних
- Змагальні перевірки
- 11 внутрішніх загороджувальних фільтрів
- Тип архітектури
- Замкнена мультиагентна система з розподілом Critic/Defender
Замкнена мультиагентна архітектура
Фреймворк розподіляє завдання між шістьма спеціалізованими ролями агентів під керівництвом Orchestrator:
- Scout: Аналізує схему, часові структури та пропуски, встановлюючи межі витоку цільових міток.
- Hypotheses & Literature: Шукає наукові докази та пропонує плаузибельні фічі.
- Statistical & ML: Виконує детермінований код для побудови ознак та оцінки асоціацій.
- Critic & Defender: Тестують гіпотези за 11 змагальними критеріями (витік даних, конфаундинг, нестабільність).
- Report: Звіряє значення зі спільним факт-шитом та збирає підсумковий звіт.
11-етапний змагальний фільтр
Замість прямих генеративних висновків моделі, кожна фіча проходить детерміновану перевірку та змагальний дебат агентів Critic і Defender. Результати отримують чіткі мітки перед передачею людині:
screened: Пройшов перевірку статистичної значущості.conditional: Потребує додаткового аналізу чутливості за підгрупами.exploratory: Низькосигнальні гіпотези для перевірки на відкладених вибірках.rejected: Відхилено через перекриття конструктів або витік цільової мітки.unstable: Напрямок ефекту змінився під час тестування.
✓ Коли використовувати
- Проектування автономних ШІ-агентів для Data Science, фінансового моделювання чи аналізу табличних даних
- Запобігання витоку цільових даних та хибних кореляцій у LLM-пайплайнах
- Впровадження етапів підтвердження людиною (human-in-the-loop) для агентського коду та звітів
✕ Коли НЕ варто
- Прості текстові чат-боти або завдання автодоповнення коду в реальному часі
- API з низькою затримкою, де багатокроковий дебат агентів створює недопустимі затримки
Що зробити сьогодні
- Впровадьте окремий етап перевірки Critic/Defender у мультиагентних оркестраторах на кшталт LangGraph чи AutoGen.
- Налаштуйте автоматичні перевірки витоку цільової мітки перед етапом генерації фіч за допомогою LLM.
- Використовуйте детермінований факт-шит для верифікації числових тверджень у підсумкових звітах агентів.
Джерела