DeepSeek оновлює тарифи API з непіковими знижками та змінами кешування
DeepSeek оновила тарифну сітку API, ввівши роздільні ціни для пікових і непікових годин та змінивши розрахунок кешування промптів. Розробникам варто переглянути графіки запуску автоматизованих задач.
Вплив: Середній
Чому це важливо
Перенесення обсяжних пакетних задач та агентних конвеєрів на непіковий час дозволяє суттєво зменшити витрати на API.
TL;DR
- 01API DeepSeek тепер розділяє використання токенів на пікові та непікові години.
- 02Переглянуто розрахунок кешування промптів для тривалих сесій з великим контекстом.
- 03Перенесення фонових задач на непікові години зменшує операційні витрати на API.
Часова тарифікація та управління навантаженням
DeepSeek оновила модель тарифікації API з урахуванням пікового навантаження на сервери, встановивши окремі тарифи залежно від часу виконання запитів. Це стимулює розробників виносити пакетні задачі на непіковий період для зменшення навантаження у пікові години.
Оптимізація агентних сценаріїв
Командам, які використовують агентні конвеєри з великим контекстом, слід перевірити структуру кешування промптів. Забезпечення детермінованих префіксів збільшує відсоток влучань у кеш, а перенесення нетермінових задач на непікові години дозволяє зберегти запланований бюджет.
✓ Коли використовувати
- Для обробки великих обсягів асинхронних даних та офлайн-індексації.
- Під час регулярного фонового тестування та оцінки агентів.
✕ Коли НЕ варто
- Для реального часу у чатах користувачів, де критична затримка відповіді.
- Якщо кешування недоступне через повністю динамічні префікси промптів.
Що зробити сьогодні
- Перевірте фонові пакетні задачі та перенесіть нетермінові запити на непіковий час.
- Проведіть аудит префіксів промптів для збереження високого відсотка влучань у кеш.
Джерела