Створення надійної інфраструктури для запобігання неконтрольованому виконанню агентів
Автономні агенти часто зависають або входять у безкінечні цикли через відсутність системних обмежень виконання. Задокументований інцидент із LangChain призвів до витрат $47 000 за 264 години через відсутність автоматичних вимикачів. Справжня автономність вимагає платформ стійкого виконання та жорстких програмних лімітів замість простих сесій.
Вплив: Високий
Чому це важливо
Захистіть свій бюджет розробки вже сьогодні, налаштувавши жорсткі ліміти кроків, очищення контексту та рушії стану на кшталт Temporal чи Restate.
TL;DR
- 01Моніторинг без автоматичних вимикачів залишає агенти вразливими до безкінечних витрат на API.
- 02Тривалі мультиагентні конвеєри потребують рушіїв надійного виконання (Temporal, Restate чи DBOS).
- 03Контекст необхідно фільтрувати від шумних викликів інструментів, щоб уникнути отруєння подальших кроків моделі.
Ключові факти
- Тривалість аварійного циклу
- 264 години (11 днів)
- Витрати на інцидент у LangChain
- $47 000 на API
- Згадані рушії виконання
- Temporal, Restate, DBOS
- Інтеграція у фреймворки
- Pydantic AI (офіційні модулі)
264-годинний нескінченний цикл
У листопаді 2025 року конвеєр маркетингових досліджень із чотирьох агентів на базі LangChain потрапив у катастрофічний цикл помилок. Агент-аналізатор та агент-верифікатор безперервно викликали один одного протягом 264 годин (11 діб). Інцидент приніс нульовий корисний результат і спричинив рахунок у розмірі $47 000 за виклики API, поки команда нарешті не побачила фінансовий звіт. Інженери мали налаштований моніторинг, але не мали жодних автоматичних механізмів для примусової зупинки процесу.
Перехід до тривалих процесів виконання
Інструменти 2022–2024 років оптимізувалися під короткі інтерактивні сесії: вхідний промпт, виклик функції, виведення результату. Тривалі автономні процеси у 2026 році демонструють три ключові дефіцити поточної архітектури:
1. Надійне виконання (Durable Execution): Звичайні процеси завершуються аварійно та втрачають стан. Необхідно переходити до платформ збереження стану на кшталт Temporal, Restate або DBOS. 2. Отруєння контексту: Великі вікна контексту не гарантують якісної обробки історії. Одинарна шумна або некоректна відповідь інструмента непомітно спотворює всі наступні рішення моделі. 3. Навантаження на інструменти: Функції, створені для поодиноких викликів, дають збій при сотнях повторних звернень поспіль.
Програмні гальма замість ручного нагляду
Спостережуваність без механізмів зупинки — це просто реєстрація збитків. Автономні агенти вимагають жорстких лімітів на кількість кроків, фінансових квот на запуск і автоматичних вимикачів на рівні оркестратора. Використання рушіїв надійного виконання дозволяє ізолювати збої та зупиняти агентів до спустошення бюджету.
Спробуй за 2 хвилини
# Enforce deterministic circuit breakers and execution budget caps
MAX_ITERATIONS = 50
MAX_BUDGET_USD = 25.0
def run_guarded_step(agent, context, state):
if state.iteration_count >= MAX_ITERATIONS:
raise RuntimeError("Execution halted: Maximum iteration ceiling reached.")
if state.total_spend >= MAX_BUDGET_USD:
raise RuntimeError("Execution halted: Maximum budget ceiling exceeded.")
return agent.step(context)python
✓ Коли використовувати
- Створення автономних конвеєрів, що працюють годинами без прямого контролю людини
- Оркестрація мультиагентних систем, де агенти взаємно перевіряють результати роботи
- Запуск критичних робочих процесів, які вимагають збереження стану в разі перезавантаження
✕ Коли НЕ варто
- Одноразові інтерактивні сесії, де розробник самостійно перевіряє кожне згенероване повідомлення
- Прості скрипти для терміналу, що виконуються за кілька секунд
Що зробити сьогодні
- Проведіть аудит фонових агентів і встановіть жорсткі ліміти на кроки та витрати в доларах.
- Інтегруйте рушії надійного виконання (Temporal, Restate чи DBOS) для тривалих завдань.
- Налаштуйте фільтрацію відповідей інструментів, щоб запобігти отруєнню контексту в довгих ланцюжках.
Джерела