Oleksandr Kuzmenko, РедакторОпубліковано 5 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Агентні інструменти кодингу здійснюють у середньому 12 викликів моделі та обробляють 2.9 млн токенів на один промпт.
- Повторне зчитування кешу контексту становить 96% усіх оброблених токенів у багатокрокових робочих процесах агентів.
- Завдання агентного ШІ споживають близько 150 Вт·год на промпт, що приблизно у 600 разів більше за звичайні чат-запити.
Ключові факти
- Оброблено токенів (8 тижнів)
- 3.2 Мільярди
- Середня кількість викликів на промпт
- 12 викликів моделі
- Частка зчитування кешу
- 96% від усіх токенів
- Частка виводу моделі
- 0.4% від усіх токенів
Джерело: Ключові факти — Оброблено токенів (8 тижнів)
Джерело: Ключові факти. Оброблено токенів (8 тижнів): 3.2 Мільярди. Кожне число скопійоване з історії.
- Оброблено токенів (8 тижнів)3.2 Мільярди
Джерело: Ключові факти — Частка зчитування кешу, Частка виводу моделі
Джерело: Ключові факти. Частка зчитування кешу: 96% від усіх токенів. Частка виводу моделі: 0.4% від усіх токенів. Графік порівнює лише значення з однаковою одиницею. Кожне число скопійоване з історії.
Міні-графік метрик
- 96% від усіх токенівЧастка зчитування кешу
- 0.4% від усіх токенівЧастка виводу моделі
- Частка зчитування кешу96% від усіх токенів
- Частка виводу моделі0.4% від усіх токенів
Структура токенів в агентних пайплайнах
Дані за 8 тижнів активного використання Claude Code демонструють суттєву різницю між чатом та термінальним агентом:
- Усього промптів: 1 138 запитів користувача
- Виклики моделі: 14 000+ викликів (~12 викликів на один промпт)
- Обсяг токенів: 3.2 мільярда оброблених токенів (~2.9 млн токенів на промпт)
- Частка згенерованого коду: Згенерований вивід складає лише 0.4% токенів
- Зчитування кешу: Повторне зчитування накопиченого контексту становить 96%
Енергоспоживання та масштаби обчислень
Звичайний чат-запит споживає приблизно 0.24–0.34 Вт·год. Агентний промпт у середньому вимагає 150 Вт·год (~600x більше), оскільки кожний крок агента заново проганяє весь накопичений контекст.
Розрив між тестами та реальним використанням
Опубліковані метрики оцінюють поодинокі текстові запити, проте сучасні кодинг-агенти виконують багатокрокові ланцюжки міркувань. Дослідження Watershed (Bistline et al. 2026) підтверджує, що агентні процеси з 5–50 викликами вимагають 50–500 Вт·год на завдання, а 97% використання Anthropic API зараз припадає на автоматизовані агентні сценарії.
Що зробити сьогодні
- Враховуйте багатокрокові виклики моделей під час оцінки фінансових та енергетичних витрат на автономних кодинг-агентів.
- Відстежуйте накопичення контексту в агентних процесів для контролю зростання обсягу токенів.
Назви кроків узяті з блоку «Що зробити сьогодні».
Назви кроків узяті з блоку «Що зробити сьогодні». Враховуйте багатокрокові виклики моделей під час оцінки фінансових та енергетичних витрат на автономних кодинг-агентів.. Відстежуйте накопичення контексту в агентних процесів для контролю зростання обсягу токенів.
- Враховуйте багатокрокові виклики моделей під час оцінки фінансових та енергетичних витрат на автономних кодинг-агентів.
- Відстежуйте накопичення контексту в агентних процесів для контролю зростання обсягу токенів.