Черв'як Copilot демонструє самопоширювану ін'єкцію промптів у документах Word
Дослідники продемонстрували ШІ-черв'яка, який використовує Microsoft Copilot як вектор для поширення шкідливих інструкцій через документи Word. Введені інструкції змінюють цифри та копіюються в нові документи під час звичайних корпоративних робочих процесів.
Вплив: Високий
Чому це важливо
Інженери та ліди з безпеки повинні переглянути воркфлоу генерації за допомогою ШІ, щоб захистити внутрішні документи від непрямих ін'єкцій.
TL;DR
- 01Copilot може поширювати приховані інструкції через корпоративні документи Word.
- 02Непряма ін'єкція промптів обходить традиційний контроль безпеки пошти та DLP.
- 03Ставтеся до згенерованого ШІ тексту та невідомих документів із суворою обережністю.
Ключові факти
- Дата розкриття
- 3 березня (координовано)
- Вектор
- Документ Microsoft Word / Copilot
Механіка ШІ-Черв'яків у Документах
Повідомлений норвезьким дослідником ШІ та підтверджений Microsoft, зловмисник може приховати шкідливі інструкції всередині документа Word. Коли Copilot обробляє цей документ як вихідний матеріал, інструкції можуть змінювати показники.
Наслідки для Корпоративної Безпеки
Експерти зазначають, що цей патерн атаки обходить традиційні засоби контролю:
- Безпека пошти: Обходиться, оскільки документ виглядає легітимним.
- DLP: Екфільтрація відбувається через автентифіковану сесію користувача.
- Захист кінцевих точок: Код не виконується; сервіс слідує прихованому тексту.
Пом'якшення від Вендора
Microsoft підтвердила використання стратегії багаторівневого захисту. Проте експерти наголошують, що вирішення проблеми плутанини даних та інструкцій залишається викликом для всієї індустрії.
Що зробити сьогодні
- Перегляньте робочі процеси редагування документів із підтримкою ШІ для сторонніх файлів.
- Переконайтеся, що додатки Office та середовища Copilot оновлені останніми патчами безпеки.
Джерела