95 мільярдів активних параметрів Qwen3.8, дешевша пам'ять агентів від IBM і чому пермісивні ліцензії тепер належать китайським лабораторіям

Alibaba щойно виклала у відкритий доступ найбільший реліз ваг, який бачила відкрита екосистема, — Qwen3.8-2.4T-A95B, 2,4 трильйона параметрів загалом. Але число, яке насправді важить, — 95 мільярдів: саме стільки параметрів реально спрацьовує на кожному токені, бо це архітектура mixture-of-experts із дрібним поділом. Замість кількох гігантських експертів Alibaba розподілила потужність моделі між значно більшою кількістю менших блоків, а навчений маршрутизатор для кожного токена сам обирає, який фрагмент має відповідати. Вартість обслуговування залежить від 95 мільярдів активних параметрів, а не від 2,4 трильйона загальних. І в цьому вся суть: щільна модель на 2,4 трильйона параметрів була б непридатною для використання майже для будь-кого, а розріджена версія з 95 мільярдами активних параметрів починає виглядати як щось, що добре профінансований стартап реально може орендувати потокенно.

Архітектура під капотом продумана не менше. Qwen3.8 чергує повну увагу, де кожен токен звертається до кожного іншого, з лінійною увагою, де замість дедалі більшого кеша ключів і значень працює обмежений за розміром рекурентний стан. Саме цей гібрид дозволяє моделі тримати контекстне вікно на 1 мільйон токенів, не роздуваючи пам'ять і обчислення разом із довжиною розмови, — реальне обмеження для агентних навантажень, де перед власне питанням встигають накопичитися системні інструкції, результати роботи інструментів, знайдені документи й ланцюжки багатокрокових міркувань. Вивід моделі обмежений 128 000 токенів — щедро за будь-якими мірками, але це нагадування, що навіть контекстне вікно на мільйон токенів створене насамперед для читання, а не для писання. Alibaba також заклала три рівні глибини міркувань — low, high і xhigh, — щоб розробник міг знижувати їх для масової обробки документів або підвищувати для справді складного багатокрокового завдання.

Перші показники продуктивності опублікувала NVIDIA, і тут варто одразу зробити застереження: це NVIDIA тестує власне залізо, а не незалежна третя сторона. На стійці GB300 NVL72 — 72 GPU Blackwell Ultra, з'єднані доменом NVLink на 130 ТБ/с, — модель показала понад 4 000 токенів за секунду на GPU і понад 350 токенів за секунду на користувача, у точності FP8, без додаткового тюнінгу, ще в день релізу. За словами NVIDIA, це нижня межа, а не стеля: точність NVFP4 та подальша оптимізація мають підняти пропускну здатність ще вище. Сприймайте це число таким, яким воно є — вендор демонструє власний чип на власній стійці, — але навіть скептичне прочитання цього бенчмарку вказує на реальний запас потужності, який ще залишається невикористаним.

Що робить цей реліз справді помітним — не лише розмір, а й доступність. Ваги вже лежать на Hugging Face і ModelScope, з підтримкою в день релізу з боку vLLM, SGLang і NVIDIA Dynamo, плюс контейнер NIM без прив'язки до конкретної моделі та шлях через NeMo AutoModel для донавчання без конвертації чекпоінтів. П'ять хмарних постачальників API — DeepInfra, DigitalOcean, Fireworks AI, Modal і OpenRouter — уже обслуговують модель, тож команди без власної стійки на 72 GPU можуть орендувати інференс потокенно, а не піднімати таке залізо самостійно. Ось що насправді варто помітити: модель рівня frontier виходить одразу з повним стеком для розгортання в день релізу, а не через місяці, коли спільнота нарешті розбереться, як її запускати.

Більшість невдач агентів у багатокрокових завданнях — розділити рахунок, знайти потрібний контакт, правильно розбити API на сторінки — це не прогалини в знаннях, пояснює в новому дописі на Hugging Face Ашват Вайтінатан Аравіндан з IBM Research. Модель зазвичай знає інструменти; їй просто бракує засвоєної надійності в тому, як ними користуватися. Дві системи пам'яті намагаються це виправити, змушуючи агента вчитися на власних минулих траєкторіях: ACE (Agentic Context Engineering) і відкрита ALTK-Evolve від IBM Research. Обидві погоджуються, що уроки слід рахувати, а не стискати до жмені універсальних правил. Розходяться вони в доставці. ACE вводить увесь свій постійно зростаючий збірник правил у контекст моделі на кожному кроці, незалежно від завдання чи моделі. ALTK-Evolve ставиться до доставки як до регулятора: невелике ядро правил із високою підтримкою, розширене кількома витягнутими під поточне завдання, або повний набір, коли модель має для цього запас потужності.

Саме цей вибір конструкції видно в рахунку. IBM Research прогнала обидві системи власними силами на розбитті test_normal бенчмарку AppWorld — 168 завдань, у яких ReAct-агент ділить рахунки, шукає пісні та звіряє замовлення в дев'яти симульованих застосунках — з однаковими базовими моделями й тестовою обв'язкою: DeepSeek-V3.2 як сильна модель, gpt-oss-120b як слабша. На сильній моделі IBM повідомляє, що ALTK-Evolve перевершила ACE за точністю, витративши лише близько 40% токенів інференсу. На слабшій моделі обидві майже зрівнялися за точністю — 56,0 проти 54,8 в ACE, розрив, який IBM називає шумом, оскільки повторний прогін дав 54,8 — тоді як ALTK-Evolve, за повідомленням, використала приблизно 14% токенів ACE, тобто близько однієї сьомої.

Цікавіше за верхньорівневі цифри те, звідки насправді береться точність. У розбивці за складністю це не просто «витягування перемагає збірник правил». На gpt-oss-120b повний збірник правил ACE виграє легкі й середні завдання — там достатньо загальної здатності виконувати інструкції, щоб завантаження всього контексту допомагало. Але на складних завданнях, де агенту треба виокремити один релевантний урок, а не ковзати повз десятки, вибіркове витягування виходить уперед, а саме складні завдання визначають сукупний бал. На сильнішій DeepSeek-V3.2 картина обертається: додаткова потужність дозволяє моделі поглинути повний збірник правил ACE достатньо добре, щоб обійти ALTK-Evolve на середніх завданнях, але ALTK-Evolve все одно веде на легких, складних і загалом.

IBM Research робить висновок, що розмір контексту не безкоштовний лише тому, що токени дешеві. Слабша модель може потонути у вичерпному збірнику правил так само, як молодший інженер тоне в надмірно деталізованому довіднику, тоді як сильніша модель може дозволити собі прочитати все. Ставка ALTK-Evolve в тому, що обсяг пам'яті для введення має бути рішенням для конкретної моделі й конкретного завдання, а не фіксованою константою, зашитою в шаблон промпту.

Літній звіт Hugging Face за 2026 рік фіксує 2,96 мільйона публічних репозиторіїв моделей на Hub станом на серпень — проти 2,43 мільйона у січні. Але в цьому зростанні заховано закономірність у ліцензуванні, яку легко проґавити і неможливо забути, щойно її помітиш. З 178 китайських релізів моделей понад 20 мільярдів параметрів цього року 59% вийшли під ліцензією Apache 2.0, ще 22% — під MIT, і жодна не має обмеження на комерційне використання. Серед американських моделей того самого класу лише 29% мають Apache або MIT, 41% живуть під власними умовами, а 30% узагалі не декларують ліцензію.

Логіка мала б бути протилежною: найбільші й найдорожчі в тренуванні моделі мали б отримувати найжорсткіші умови — саме вони, в теорії, могли б приносити найбільший дохід від ліцензій. Натомість DeepSeek та Z.ai випускають моделі від 700 мільярдів до 1,65 трильйона параметрів під звичайним MIT — умови м'якіші, ніж у багатьох американських лабораторій на моделі вдесятеро менші. Китайські лабораторії взагалі пропускають звичну сходинку «спочатку маленька модель, потім масштабування» і одразу випускають ваги фронтирного рівня: найбільша китайська відкрита модель місяця сягала цього року 2,78 трильйона параметрів, тоді як американська стеля протягом п'яти з семи місяців не перевищувала 130 мільярдів.

Як бізнес-модель на ліцензіях це не має сенсу — і саме над цим варто задуматися. Якщо роздаєш ваги на найм'якіших умовах, гроші мусять приходити звідкись іще — з доступу через API, хмарних контрактів, продажу заліза або просто з гравітації екосистеми. Останнє важить найбільше і його найлегше недооцінити: пермісивну фронтирну модель не просто завантажують — на її основі будують, дотюнюють, квантизують і поширюють спільнотою, у якої після цього немає причин іти деінде. Qwen — найяскравіший приклад того, що це справді працює: похідних моделей на Hub уже понад 150 тисяч, приблизно у 2,6 раза більше, ніж увесь слід Meta. Це вже не просто випуск моделі — це стандартний вибір, який розробники перестають переглядати.

При цьому вся ця активність розподілена вкрай нерівномірно. На весь Hub лише 1,5% репозиторіїв дають 99,2% усіх завантажень — тобто більшість із 2,96 мільйона репозиторіїв завантажили один раз, чіпають рідко, і в жоден робочий конвеєр вони не входять. Тренд на пермісивні ліцензії важить саме тому, що концентрується там, де й реальний трафік: у жмені фронтирних і навколофронтирних релізів, які справді потрапляють у виробництво. Умови ліцензії на модель, яку ніхто не завантажує, не рухають жоден ринок. Умови на модель на вершині цієї кривої — рухають, а зараз саме лабораторії з найм'якішими умовами тримають найбільші моделі на цій кривій.

PrivAiTe працює як проксі між агентом кодування та провайдером моделі: перехоплює трафік Anthropic Messages API, OpenAI Responses API та LiteLLM і вичищає персональні дані й облікові дані з параметрів викликів інструментів ще до того, як запит покине вашу машину. Це саме той сценарій, через який агентне кодування небезпечне для приватних репозиторіїв — агент читає файл, запускає команду і вставляє знайдене, включно з ключами API, прямо в тіло запиту. У власному бенчмарку проєкту з 24 підставлених облікових даних ловилося від 22 до 24, а маскування додає приблизно 1-3 секунди затримки на запит; у сесії Claude Code це виливається десь у 42 секунди.

За даними Pillar Security, кампанія, яку компанія назвала Deadbugz, досі триває: дослідники вже зафіксували 23 шкідливі pull request, подані під обліковим записом zellkernel, деякі з них публікували й зливали в основну гілку за 74 хвилини. Хитрість -- у навмисному терпінні. Отруєний MCP-інструмент поводиться точнісінько як його чесний двійник протягом трьох звичайних викликів -- витягує файл, запускає лінтер, робить те, що потрібно робочому процесу -- а потім тихо переписує власні метадані і починає читати з хоста SSH-ключі та хмарні облікові дані. Будь-яка перевірка чи сканування, що дивиться лише на перші виклики інструмента, нічого підозрілого не побачить.

Anthropic випустила ще не оприлюднену модель на гіпотезу Рімана -- одну з нерозв'язаних задач Millennium Prize -- розбивши роботу не на одне суцільне міркування, а на 60 спеціалізованих субагентів. Одні досліджували можливі підходи й згенерували, за даними Anthropic, 650 окремих ідей; інші перевіряли кандидатні кроки доведення; третій шар оформлював результати в текст. Увесь запуск, за словами компанії, спожив 31 мільйон токенів за 36 годин. Замість довіряти власному відчуттю моделі щодо коректності кроку доведення, Anthropic пропустила згенеровану логіку через Lean -- відкритий формальний доведення-помічник, який перевіряє математичні твердження так, як компілятор перевіряє код: прийняти або відхилити, без часткового заліку.

За словами OpenAI, новий режим Ultrafast для GPT-5.6 Sol працює на вейферних чипах Cerebras і повертає відповіді до 14 разів швидше за стандартний API — так стверджує сама компанія. Доступ поки що відкрили лише обмеженому колу API-клієнтів, а не всім користувачам, і незалежних бенчмарків на підтвердження цифри OpenAI не публікувала. Цікава сама стратегія: замість того, щоб оптимізувати GPT-5.6 Sol зсередини, компанія підключила чужий кремній заради швидкості. Це фактичне визнання, що інференс на GPU має стелю затримки, яку самими лише архітектурними правками не пробити для сценаріїв реального часу.