Anthropic повідомляє про прогрес у напрямку рекурсивного самовдосконалення ШІ
Anthropic опублікувала звіт, що деталізує прогрес у дослідженнях рекурсивного самовдосконалення (RSI) в системах ШІ. Робота досліджує теоретичні основи та практичні виклики створення ШІ, що може автономно покращувати власні можливості, позначаючи критичний крок до більш загального штучного інтелекту.
Чому це важливо
Розуміння поточних обмежень та досягнень у потенціалі самовдосконалення ШІ є ключовим для передбачення майбутніх можливостей та етичних міркувань.
TL;DR
- 01Anthropic активно досліджує системи ШІ, здатні самовдосконалюватися.
- 02Рекурсивне самовдосконалення є ключовим для досягнення загального штучного інтелекту.
- 03Механізми безпеки та контролю є критично важливими поряд із розвитком можливостей.
Прискорення розробки
Anthropic повідомляє, що ШІ все більше керує власним розвитком. Внутрішні дані свідчать, що інженери тепер додають (merge) у 8 разів більше коду щокварталу порівняно з періодом 2021–2025 років. Станом на травень 2026 року понад 80% коду, доданого в кодову базу Anthropic, було створено Claude.
Бенчмарки продуктивності
Зростання можливостей прискорюється. Раніше моделі подвоювали свої можливості виконання завдань кожні сім місяців; тепер цей інтервал скоротився приблизно до чотирьох місяців. Моделі наситили такі бенчмарки, як SWE-bench та CORE-bench, протягом двох років.
Майбутнє RSI
Рекурсивне самовдосконалення залишається метою, за якої ШІ автономно створює свого наступника. Хоча поточні моделі перевершують людей у конкретних завданнях, вони все ще стикаються з прогалинами у продуктивності при прийнятті рішень високого рівня та виборі цілей, що є критичним для справжньої автономності.
✓ Коли використовувати
- Дослідження траєкторій AGI
- Оцінка продуктивності інженерії за допомогою ШІ