Аналіз 9050 скриптів показав як мультисуддівські конвеєри знижують витрати на 90 відсотків
Емпіричний бенчмарк 9050 згенерованих ШІ скриптів на 181 конфігурації показав, що генерація кількох чернеток відкритими моделями з оцінкою суддями сторонніх лабораторій дає якість рівня топ-моделей за значно нижчою ціною. Claude Opus 5.5 коштує $2.75 за скрипт, тоді як відкрита модель GLM-5.3 Flash генерує порівнянний текст за 1.5 цента.

Чому це важливо
Ви можете замінити поодинокі дорогі виклики флагманських LLM генерацією десяти чернеток дешевими моделями з подальшим зведенням секцій моделлю-суддею.
TL;DR
- 01Генерація 10 чернеток через відкриту GLM-5.3 Flash з комбінуванням через LLM-суддю дає якість Opus 5.5 у рази дешевше.
- 02Зниження міркувань Opus 5.5 з max до xhigh зменшує вартість на 75% ($2.75 проти $0.69) при втраті менше 1% якості.
- 03Судді мають вимірне упередження: GPT-суддя додає +2.75 бала OpenAI і забирає -2.14 бала в Anthropic.
Ключові факти
- Усього протестовано конфігурацій
- 181
- Вартість Opus 5.5 на Max Effort
- $2.75 за скрипт
- Вартість Opus 5.5 на xhigh Effort
- $0.69 за скрипт
- Вартість GLM-5.3 Flash
- $0.015 за скрипт
- Зсув оцінки судді GPT
- +2.75 OpenAI / -2.14 Anthropic
Виявлення кліше проти адаптації голосу
У бенчмарку 9050 згенерованих скриптів, оцінених за детальними рубриками після 400 годин ручного калібрування, Towards AI виявила суттєву різницю між відсутністю шаблонів і точним відтворенням стилю. Хоча GPT-6 Astra показала найвищий бал проти кліше (94.9), її відповідність голосу склала лише 82 бали (62-ге місце). Моделі лінійки Claude посіли перші 11 місць, а Opus 5.5 набрав 90.8 на максимальних міркуваннях. При цьому перехід на рівень xhigh зменшив витрати з $2.75 до $0.69 за генерацію при мінімальній зміні оцінки до 90.0.
Арбітраж генерації на відкритих моделях
Відкрита модель GLM-5.3 Flash досягла оцінки 88.2 за ціною 1.5 цента за скрипт — це у 190 разів дешевше за Opus 5.5 на максимумі. Дані доводять: запуск 10 паралельних генерацій у GLM з наступною оцінкою зовнішнім суддею дає результат на рівні Opus 5.5 за значно нижчою вартістю. Бюджети на токени ефективніше витрачати на селекцію та об'єднання секцій, а не на первинний драфтинг.
Системні упередження LLM-суддів
Дослідження виявило вимірні упередження при автоматичній оцінці: суддя на базі GPT стабільно завищував оцінку моделям OpenAI на 2.75 бала та знижував драфтам Anthropic на 2.14 бала. Суддя DeepSeek додавав близько 1 бала моделям DeepSeek та Kimi. Це підтверджує правило: для надійної фільтрації та ранжування чернеток слід застосовувати панель моделей із різних лабораторій.
✓ Коли використовувати
- Використовуйте при масштабуванні великих обсягів документації чи навчальних матеріалів, де ручна вичитка створює затримки.
- Використовуйте для масових генерацій, де перехід на відкриті моделі суттєво зменшує загальний рахунок за токени.
✕ Коли НЕ варто
- Не використовуйте конвеєри з кількох чернеток для генерації коду, якщо його працездатність уже перевіряється модульними тестами.
- Уникайте мультисуддівської схеми у сценаріях із жорсткими обмеженнями часу відповіді до однієї секунди.
Що зробити сьогодні
- Переведіть масовий драфтинг на дешеві відкриті моделі, залишаючи дорогі моделі лише для фінальної селекції.
- Обмежте рівень зусиль міркувань Claude Opus 5.5 рівнем xhigh замість max для зниження витрат на 75%.
- Налаштуйте мультимодельні колегії суддів із різних лабораторій для усунення вендорного перекосу в оцінках.