Моделі й дослідження
2 хв читання · Mastodon
Anthropic виявила внутрішній простір міркувань J-Space у моделях Claude
Дослідники Anthropic виявили «J-space» — внутрішній нейронний простір у Claude, який репрезентує концепції приховано перед їх написанням. Розробники можуть використовувати відкриту реалізацію J-Lens для аналізу прихованих міркувань Claude та виявлення ін'єкцій або багів.
Чому це важливо. Тепер ви можете використовувати інструменти J-lens із відкритим кодом для перегляду внутрішнього стану Claude та перехоплення прихованих помилок або ін'єкцій промптів до генерації виводу.