Oleksandr Kuzmenko, РедакторОпубліковано 4 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Криптографічно підтверджує конкретний чекпойнт моделі, що сформував відповідь API
- Суттєво знижує обчислювальні витрати та затримки порівняно з попередніми підходами верифікації
- Код відкрито на GitHub для незалежного аудиту та інтеграції в ланцюжки агентів
Ключові факти
- Тип релізу
- Відкрите дослідження та репозиторій з кодом
- Головна мета
- Верифікований інференс LLM та захист від підміни сесій
Криптографічна перевірка LLM
Anthropic опублікувала дослідження та відкрила репозиторій FlashProve — систему для генерації криптографічних доказів походження відповідей штучного інтелекту. Замість довіри до HTTP-заголовків або заяв провайдерів, FlashProve дозволяє математично підтвердити, що відповідь була згенерована конкретними вагами моделі.
Оптимізація та безпека
Попередні спроби створити докази виконання нейромережевих обчислень стикалися з критичними затримками. FlashProve розроблений для роботи з великими моделями за рахунок суттєвого зменшення обчислювального оверхеду, перевершуючи попередні відкриті реалізації. Розробка велася спільно з дослідниками Алессандро К'єзою, Джакомо Фенці та Беном Майєром.
Практичне застосування
Система закриває дві ключові проблеми: запобігання підміні відповідей посередниками під час сесій і перевірку автентичності моделей аудиторами. Оцінювачі безпеки тепер можуть гарантувати, що API обслуговує повноцінну модель, а не квантовану або дешеву альтернативу.
Спробуй за 2 хвилини
git clone https://github.com/anthropics/FlashProve.gitКоли використовувати
- Архітектури Zero-Trust, де вимагається підтвердження автентичності стороннього постачальника моделі
- Автоматизовані аудити безпеки для контролю квантування або погіршення заявлених ваг
Коли НЕ варто
- Стрімінг інтерфейсів у реальному часі з мікросекундними вимогами до затримки, де відсутній ризик підміни
- Локальні моделі, розгорнуті в ізольованому корпоративному середовищі
Що зробити сьогодні
- Ознайомитися з відкритим репозиторієм FlashProve на GitHub для перевірки специфікацій верифікатора
- Перевірити пайплайни оцінки агентів на ризики підміни моделей сторонніми провайдерами
Назви кроків узяті з блоку «Що зробити сьогодні».
Назви кроків узяті з блоку «Що зробити сьогодні». Ознайомитися з відкритим репозиторієм FlashProve на GitHub для перевірки специфікацій верифікатора. Перевірити пайплайни оцінки агентів на ризики підміни моделей сторонніми провайдерами
- Ознайомитися з відкритим репозиторієм FlashProve на GitHub для перевірки специфікацій верифікатора
- Перевірити пайплайни оцінки агентів на ризики підміни моделей сторонніми провайдерами