Дослідження: агентні інструменти кодингу споживають у 600 разів більше енергії, ніж чат-промпти
8-тижневий аналіз 1 138 промптів у Claude Code показав, що 96% обсягу токенів припадає на повторне зчитування кеш-контексту. Середня сесія обробляє 2.9 млн токенів за 12 викликів моделі на один промпт.
Вплив: Високий
Чому це важливо
Оскільки використання ШІ зміщується від простих веб-чатів до автономних термінальних агентів на кшталт Claude Code, стандартні метрики енергоспоживання на один запит занижують реальне споживання обчислювальних ресурсів майже на три порядки.
TL;DR
- 01Агентні інструменти кодингу здійснюють у середньому 12 викликів моделі та обробляють 2.9 млн токенів на один промпт.
- 02Повторне зчитування кешу контексту становить 96% усіх оброблених токенів у багатокрокових робочих процесах агентів.
- 03Завдання агентного ШІ споживають близько 150 Вт·год на промпт, що приблизно у 600 разів більше за звичайні чат-запити.
Ключові факти
- Оброблено токенів (8 тижнів)
- 3.2 Мільярди
- Середня кількість викликів на промпт
- 12 викликів моделі
- Частка зчитування кешу
- 96% від усіх токенів
- Частка виводу моделі
- 0.4% від усіх токенів
Структура токенів в агентних пайплайнах
Дані за 8 тижнів активного використання Claude Code демонструють суттєву різницю між чатом та термінальним агентом:
- Усього промптів: 1 138 запитів користувача
- Виклики моделі: 14 000+ викликів (~12 викликів на один промпт)
- Обсяг токенів: 3.2 мільярда оброблених токенів (~2.9 млн токенів на промпт)
- Частка згенерованого коду: Згенерований вивід складає лише 0.4% токенів
- Зчитування кешу: Повторне зчитування накопиченого контексту становить 96%
Енергоспоживання та масштаби обчислень
Звичайний чат-запит споживає приблизно 0.24–0.34 Вт·год. Агентний промпт у середньому вимагає 150 Вт·год (~600x більше), оскільки кожний крок агента заново проганяє весь накопичений контекст.
Розрив між тестами та реальним використанням
Опубліковані метрики оцінюють поодинокі текстові запити, проте сучасні кодинг-агенти виконують багатокрокові ланцюжки міркувань. Дослідження Watershed (Bistline et al. 2026) підтверджує, що агентні процеси з 5–50 викликами вимагають 50–500 Вт·год на завдання, а 97% використання Anthropic API зараз припадає на автоматизовані агентні сценарії.
Що зробити сьогодні
- Враховуйте багатокрокові виклики моделей під час оцінки фінансових та енергетичних витрат на автономних кодинг-агентів.
- Відстежуйте накопичення контексту в агентних процесів для контролю зростання обсягу токенів.
Джерела