Хакери з Росії, Китаю та КНДР використують ChatGPT. Він спрощує їм роботу і навіть допомагає створювати шкідливі програми.
OpenAI оприлюднила звіт про виявлені приклади зловживань штучним інтелектом з боку державних кібервідділів із Росії, Китаю, Ірану, Північної Кореї та деяких інших країн. У звіті йдеться не лише про автоматизацію написання шкідливого коду, а також і про автоматизоване створення фейкових профілів у соцмережах, координацію кампаній і допомогу в керуванні інфраструктурою для проведення атак.
Серед інших, було виявлено російську групу ScopeCreep, яка створювала сотні акаунтів у ChatGPT, використовуючи кожен із них лише один раз для поступового вдосконалення шкідливого програмного забезпечення для Windows.
Згодом ця програма маскувалася під популярну серед геймерів програму Crosshair X. Заражена версія могла брати під повний контроль компʼютер жертви, вимкнення захисту Windows Defender і передачу викрадених даних на приватний Telegram-канал.
Серед заблокованих акаунтів також були акаунти китайських хакерів, пов’язаних із групами APT15 (Flea) та APT5 (Manganese). За даними OpenAI, вони використовували ШІ для:
- керування системами безпеки на ОС Linux;
- створення Android-програм для керування пристроями;
- автоматизації масових дій у TikTok, Instagram, Facebook, твітері (зараз відомий як X);
- розробки скриптів для підбору паролів та проведення атак.
Крім того, виявлено численні китайські акаунти, що масово генерували пости для соцмереж англійською, китайською та мовою урду.
Іранські хакери із Storm-2035 генерували в ChatGPT коментарі для соцмереж на підтримку Палестини, ірландської єдності та іранської армії. Угруповання High Five із Філіппін створювало в ШІ коментарі на політичні теми для Facebook й TikTok різними мовами.
Аналітики зазначають, що такі кампанії — свідчення того, що в кібершпигунстві почалася нова епоха, де LLM-інструменти стають одними з основних засобів роботи. OpenAI намагається протидіяти цим спробам, але масштаби використання ChatGPT вже вийшли за рамки одиночних випадків, ставши проблемою глобального масштабу. Штучний інтелект перестав бути інструментом для створення текстів і зображень — тепер це новий і потужний компонент сучасної кіберзброї.
