2 хв читання · Hacker News
Edgee Compressor V2 оптимізує витрати агентів на токени завдяки тришаровому стисненню
Edgee випустила Compressor V2 — шар AI-шлюзу, який використовує три ортогональні стратегії для зменшення роздування контексту без порушення кешування промптів. Це оновлення вирішує проблему лавиноподібного зростання витрат під час тривальних сесій розробки на зразок SWE-bench.
Чому це важливо. Оскільки ШІ-агенти виконують складні багатокрокові завдання з програмування, контекстні вікна швидко заповнюються, що призводить до різкого зростання витрат на API. Оптимізація використання контексту без втрати кешування префіксів є ключем до життєздатної економіки ШІ-агентів.