NVIDIA випустила open-source фреймворк NOOA для об'єктно-орієнтованих AI-агентів
NVIDIA Labs представила відкритий фреймворк NOOA, який визначає AI-агентів як окремі класи Python із типізацією. Завдяки передачі об'єктів за посиланням замість текстових дампів, NOOA скорочує витрати токенів удвічі на SWE-bench Verified із точністю 82.2%.
Вплив: Високий
Чому це важливо
Інженери можуть будувати чистіші архітектури агентів без компкації контексту, зменшуючи витрати на API LLM на 50%.
TL;DR
- 01Передавайте результати інструментів за посиланням для збереження кешу промптів.
- 02Відмовтеся від пайплайнів стиснення контексту, зберігаючи стан у реляційній БД SQLite.
- 03Структуруйте інструменти та промпти агентів у типізованих класах Python для легшого тестування.
Ключові факти
- Результат SWE-bench Verified
- 82.2% (GPT-5.5, за даними розробників)
- Токенів на завдання
- ~1.1M токенів (проти 2.2M у базі)
- Результат ARC-AGI-3 RHAE
- 85.1% (GPT-5.6-sol)
- Вартість гри ARC-AGI-3
- $13.30 - $17.85
Визначення агентів через класи Python
У NOOA агенти структуровані як класи Python: docstrings виконують роль системних промптів, типізовані поля зберігають стан, а заглушки методів ... викликають виконуючий цикл LLM під час роботи.
Оптимізація токенів через передачу за посиланням
Замість перетворення складних відповідей інструментів на текст у контексті, NOOA передає змінні Python за посиланням. Модель бачить лише типізований прев'ю, що забезпечує медіанний розмір сесії в 22k–72k токенів на вікнах понад 200k без потреби в стисненні контексту.
Результати на бенчмарках
На SWE-bench Verified NOOA із GPT-5.5 досягла 82.2% точності за використання ~1.1M токенів на завдання. На ARC-AGI-3 агент NOOA показав результат 85.1% RHAE з GPT-5.6-sol із витратами менше $13.30 на гру.
Спробуй за 2 хвилини
class SupportAgent:
"""Customer support agent with relational memory."""
order_db: OrderDB
async def classify(self, message: str) -> TicketKind:
"""Classify customer message into ticket category."""
...python
✓ Коли використовувати
- Створення складних багатокрокових агентів Python з вимогами до юніт-тестування.
- Зменшення витрат токенів у великих кодових базах без серіалізації даних у промпт.
✕ Коли НЕ варто
- Прості одноразові запити до LLM без збереження стану.
- Проєкти не на Python, де неможливо виконувати живі об'єкти Python.
Що зробити сьогодні
- Ознайомтеся з архітектурою NOOA на GitHub.
- Переведіть великі текстові виводи інструментів у посилання на змінні.
- Впровадьте реляційну пам'ять на SQLite для тривалих AI-сесій.
Джерела