Google позивається проти кіберзлочинців через фішингові кампанії з використанням Gemini
Google подала позов проти китайського угруповання Outsider Enterprise, яке звинувачують у наданні інструкцій щодо використання Gemini для створення підроблених сайтів для масштабних фішингових кампаній. Це перший випадок, коли Google подає позов проти групи, яка використовує Gemini для шахрайства.
Вплив: Високий
Чому це важливо
Цей позов є першим випадком, коли Google позивається безпосередньо проти угруповання, яке використовує чат-бот Gemini для масштабних кіберзлочинів, що підкреслює постійний конфлікт між корисністю ШІ та його безпекою.
TL;DR
- 01Google подала позов проти Outsider Enterprise, китайської групи, яка організувала фішинг як послугу через Telegram.
- 02Група поширювала інструкції щодо використання Gemini для створення реалістичних фальшивих сайтів, що копіюють Google, YouTube та держслужби.
- 03Кампанія призвела до створення 9 000 фейкових сайтів, 1 мільйона шкідливих URL та надсилання 2,5 мільйона SMS користувачам Android.
- 04Це перший судовий позов Google проти угруповання, яке використовує Gemini для шахрайства.
- 05Google співпрацює з ФБР і використовує цей кейс для просування федерального законодавства США проти шахрайства з ШІ.
Ключові факти
- Виявлено підроблених сайтів
- 9 000
- Пов'язані шахрайські URL-адреси
- 1 000 000
- Надіслано SMS користувачам Android
- 2,5 мільйона
- Запропоновано шахрайських шаблонів
- Майже 300
Конвеєр фішингу як послуги
Згідно з судовим позовом, китайське угруповання Outsider Enterprise знизило технічний поріг для шахраїв, пропонуючи послуги «фішингу як послуги» через Telegram. Група надавала інструкції про те, як використовувати Gemini від Google для розробки підроблених вебсайтів, які копіювали інтерфейси Google, YouTube та державних органів (таких як E-ZPass у Нью-Йорку). Для полегшення роботи шахраям пропонували майже 300 шаблонів.
Масштаби зловживання
Телеметрія Google зафіксувала величезні обсяги активності, пов'язані з цією кампанією:
- Створено 9 000 унікальних підроблених сайтів, розроблених за допомогою Gemini, щоб виглядати легітимно.
- Розповсюджено 1 мільйон шахрайських URL-адрес.
- Надіслано 2,5 мільйони SMS-повідомлень користувачам Android (55 000 лише за двотижневий період).
Ці текстові повідомлення спрямовували користувачів на шахрайські сайти, створені за допомогою Gemini, де зловмисники викрадали персональні дані та банківські реквізити. Google співпрацювала з операторами AT&T, Verizon та T-Mobile для блокування цих повідомлень, а також задіяла функцію виявлення спаму безпосередньо в додатку Google Messages.
Виклик безпеки та слухняності
Хоча Google і раніше позивалася проти шахраїв, цей позов є першою прямою дією проти групи, що використовує Gemini для своїх схем. З кожним оновленням Gemini компанія наголошує на заходах безпеки, проте вбудовані обмеження можуть вступати в конфлікт із базовою потребою чат-ботів виконувати інструкції та допомагати користувачам. Google також співпрацює з ФБР у межах паралельного розслідування та використовує цей прецедент для лобіювання федерального законодавства США проти шахрайства з ШІ.
✓ Коли використовувати
- При аналізі ландшафту кіберзагроз із використанням ШІ та юридичних методів протидії їм з боку великих технологічних компаній.
- При дослідженні конфлікту між безпекою та здатністю чат-ботів виконувати інструкції користувачів.
✕ Коли НЕ варто
- Якщо ви шукаєте технічні деталі вразливостей API, оскільки шахрайство спиралося на інструкції для звичайних користувачів чат-бота.
- Якщо вам потрібна точна сума фінансових збитків від цієї кампанії, оскільки Google не надала фінансових оцінок у позові.
Що зробити сьогодні
- Ретельно перевіряйте посилання в SMS-повідомленнях про проблеми з акаунтом або доставкою посилок.
- Використовуйте інструменти виявлення спаму на пристроях у месенджерах для фільтрації фішингу.
- Повідомляйте службу безпеки Google про підозрілі фішингові сайти, які імітують Google, YouTube або держоргани.
Джерела