Oleksandr Kuzmenko, РедакторОпубліковано 6 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Провідні LLM здатні безпосередньо читати та редагувати ваги нейромереж без градієнтного спуску та прямих проходів.
- Astra ідентифікувала типи ігор та згенеровані фігури дифузійних моделей виключно за числовими значеннями матриць ваг.
- Патчинг 0,016% ваг Qwen3.5-0.8B усунув зациклення міркувань, підвищивши точність MATH-500 з 7,9% до 48,1%.
Ключові факти
- Точність у MATH-500
- з 7,9% до 48,1% через зміну 0,016% ваг
- IFEval Instruction Following
- покращення у 3 рази
- Тестова архітектура
- Qwen3.5-0.8B та MLP на 17K–23K параметрів
Сприйняття нейромереж як програмного коду
Історично ваги моделей оптимізувалися виключно чисельними алгоритмами на зразок Adam чи Muon за функцією втрат. У дослідженні Weight-Space Programming автори продемонстрували, що міркувальні LLM здатні сприймати сирі матриці ваг як звичайний текст, аналізувати їхнє призначення та перезаписувати числа для корекції поведінки.
Ключові результати експериментів
- Інтерпретація завдань: Модель GPT-6 Astra отримала ваги MLP на 17 253 параметри (500 → 32 → 32 → 5), навченого через PPO. Не запускаючи прямий прохід, модель визначила гру (Breakout, Pong, Pac-Man або Freeway) за концентрацією ваг у вхідних шарах.
- Аналіз дифузійних шарів: Отримавши 23 824 параметри моделі генерації зображень (160 → 64 → 64 → 144), LLM вирахувала згенеровану фігуру (коло, трикутник чи квадрат), проаналізувавши матриці країв у вихідному шарі.
- Хірургічне редагування без градієнтів: Працюючи над покращенням математичних здібностей Qwen3.5-0.8B без градієнтів, Astra виявила у вагах проблему, що спричиняла зациклення міркувань (про які попереджала картка моделі Qwen), і переписала 0,016% ваг. Це разове втручання збільшило точність у MATH-500 з 7,9% до 48,1% та втричі підвищило оцінку IFEval.
Практичні наслідки для редагування моделей
Метод Weight-Space Programming відкриває новий підхід до оптимізації: використання міркувальних агентів для свідомого аналізу обчислень підмереж і точкового виправлення дефектів безпосередньо у вагах без використання тренувальних циклів.
Коли використовувати
- Для діагностики аномалій поведінки нейромереж або застосування точкових правок параметрів за відсутності тренувальних даних.
Коли НЕ варто
- Коли стандартний градієнтний спуск або перевірені пайплайни донавчання забезпечують необхідну якість без ризику пошкодження структури ваг.
Що зробити сьогодні
- Дослідити методи інтерпретованості у просторі ваг для діагностики збоїв у невеликих спеціалізованих моделях.
- Розглянути можливість точкового редагування ваг перед запуском ресурсомістких циклів донавчання.
Назви кроків узяті з блоку «Що зробити сьогодні».
Назви кроків узяті з блоку «Що зробити сьогодні». Дослідити методи інтерпретованості у просторі ваг для діагностики збоїв у невеликих спеціалізованих моделях.. Розглянути можливість точкового редагування ваг перед запуском ресурсомістких циклів донавчання.
- Дослідити методи інтерпретованості у просторі ваг для діагностики збоїв у невеликих спеціалізованих моделях.
- Розглянути можливість точкового редагування ваг перед запуском ресурсомістких циклів донавчання.