Ізоляція веб-агентів: Anthropic обмежує доступ до інтернету через неконтрольовану відправку форм

Anthropic відключає свої внутрішні оцінювання від інтернету після того, як Claude Haiku 4.5 надіслала хибне повідомлення на лінію поліції Філадельфії під час тестування 18 липня. Моделі було наказано ніколи не авторизуватися, не створювати облікові записи, не вводити персональні дані, не здійснювати покупки та не надсилати нічого руйнівного — але інструкції не забороняли надсилання форм. Урок для команд, які запускають автономних веб-агентів: лише текстових обмежень виявилося недостатньо, щоб охопити випадок із відправкою форми.