Економіка кешування великих мовних моделей: чому ціни на API впали на 80 відсотків
Хвиля зустрічних знижень цін між OpenAI та Anthropic, разом із агресивною конкуренцією відкритих моделей, суттєво зменшила вартість використання ШІ. Оскільки в агентних сценаріях кодування від 96% до 99% токенів припадає на кешований контекст, зниження цін на зчитування кешу напряму зменшує реальні витрати на інференс.
Чому це важливо
В агентних процесах розробки софту контекст сесії накопичує повну історію дій крок за кроком. При рівні потрапляння в кеш 90–100% саме плата за зчитування кешу становить майже весь рахунок, через що зниження тарифів на кеш важить значно більше, ніж зниження базових цін на інпут чи аутпут.
TL;DR
- 01В ітеративних агентних циклах кешований контекст займає 96–99% обсягу токенів, тому саме ціна зчитування кешу визначає фінальний чек.
- 02Anthropic знизила вартість зчитування кешу на 75% у Fable 5.1 ($0.25/MTok проти $1/MTok у Fable 5), зменшивши загальні агентні витрати на 70–75%.
- 03OpenAI знизила ціну на GPT-5.6 Luna на 80% для конкуренції з дешевими відкритими моделями на зразок DeepSeek V4 Flash.
- 04Конкуренція відкритих моделей на платформах на кшталт OpenRouter продовжує знижувати ціни на кеш: DeepSeek Flash V4.1 доступна у 29 провайдерів за тарифом $0.003/MTok за читання кешу.
Ключові факти
- Зниження ціни GPT-5.6 Luna
- Знижка 80% до $0.20 / $1.20 / $0.02 за 1M токенів
- Знижка на кеш у Fable 5.1
- Зниження на 75% до $0.25 за 1M токенів у порівнянні з Fable 5
- Частка кешованих токенів в агентах
- Від 96% до 99% усіх токенів за ітерацію
- Індекс вартості токенів Vercel
- Знизився до 43.3% від рівня квітня 2026 року
Перехід до ціноутворення на основі кешу
Раніше аналіз вартості LLM зосереджувався лише на стандартних вхідних і вихідних токенах. Проте активна конкуренція між Anthropic та OpenAI перенесла фокус на вартість читання кешу:
- GPT-5.6 Luna: Подешевшала на 80% до
$0.20за інпут,$1.20за аутпут та$0.02за читання кешу на 1M токенів. - Claude Fable 5.1: Зберегла ціну
$10інпут /$50аутпут, але скоротила вартість читання кешу на 75% до$0.25/ MTok у порівнянні з Fable 5 ($1 / MTok). - Claude Opus 5.5: Отримала цінник
$4/$20/$0.20, зменшивши вимоги до обчислювальних ресурсів для хостингу. - GPT-6.1 Sol: Знизила ціну читання кешу вдвічі до
$0.10/ MTok (при тарифах$2/$10/$0.10), зрівнявшись із коефіцієнтом у 5% від вартості інпуту від Anthropic.
Чому кеш визначає витрати на кодинг-агентів
Під час роботи в Claude Code або Codex контекстне вікно зберігає дерево файлів, документацію та історію дій. Рівень потрапляння в кеш (cache hit rate) зазвичай становить 90–100%. Оскільки кешовані токени складають 96–99% загального обсягу сесії, падіння тарифу на кеш на 75% зменшує підсумковий рахунок на 70–75%.
Тиск ринку відкритих моделей
Дані маршрутизації показують, що закриті лабораторії реагують на відкриті ваги. DeepSeek Flash V4.1 підтримується 29 провайдерами на OpenRouter із ціною зчитування кешу близько $0.003 / MTok. Водночас Kimi K3.1 Pro від Moonshot AI набирає 55 балів за індексом Artificial Analysis (проти 58 у Opus 5.5) при ціні $2 / $10 / $0.20 за мільйон токенів.
✓ Коли використовувати
- Агентні середовища розробки софту (Claude Code, Codex, OpenCode) із тривалою історією сесії.
- Багатокрокові інтерактивні системи, що опрацьовують великі обсяги спільної документації.
✕ Коли НЕ варто
- Одноразові запити без контексту діалогу, де кешування запитів у принципі не працює.
- Сценарії, де вхідний контекст повністю змінюється кожного разу з нульовим рейтом кешування.
Що зробити сьогодні
- Перевірте пайплайни виклику LLM API, щоб переконатися в активності заголовків та механізмів кешування запитів.
- Розраховуйте реальну вартість за крок агента з урахуванням 90%+ потраплянь у кеш, а не лише за базовими тарифами на інпут.
- Протестуйте маршрутизацію через OpenRouter для отримання мінімальних цін на читання кешу для допоміжних завдань.