2 хв читання · Mastodon
Захист автономних агентів електронної пошти від невидимих Prompt Injection
Malwarebytes попереджає, що автономні ШІ-асистенти виконують приховані інструкції у фішингових листах, які непомітні для людей. Розробникам слід очищати вхідні дані та вимагати схвалення людиною критичних дій.
Чому це важливо. Необхідно додати санітизацію тексту та підтвердження людиною для інструментів агента, перш ніж надавати LLM доступ до електронної пошти чи фінансових дій.