Компанія Anthropic, розробник великої мовної моделі Claude, виявила, що російські кіберзлочинні групи використовували їхній ШІ для автоматизації процесу створення та модифікації шкідливого програмного забезпечення. Метою зловмисників було зробити так, щоб їхній код міг ефективніше обходити системи виявлення та захисту від шкідливого ПЗ. Крім того, хакери намагалися отримати доступ до непублічної версії моделі Claude, що свідчить про їхній інтерес до передових технологій ШІ.
Згідно з повідомленням Anthropic, зловмисники застосовували модель Claude для генерації коду, який допомагав би маскувати шкідливі програми. Це включало в себе створення варіацій існуючих зразків шкідливого ПЗ, які могли б уникнути виявлення антивірусними програмами та іншими засобами безпеки. Використання ШІ для таких завдань дозволяє хакерам значно прискорити процес розробки та адаптації своїх інструментів, роблячи їх більш небезпечними та складними для виявлення.
Цей інцидент становить загрозу для широкого кола організацій та індивідуальних користувачів. Зокрема, це стосується:
- IT-компаній та розробників програмного забезпечення, які можуть стати мішенню для викрадення інтелектуальної власності або компрометації їхніх продуктів.
- Державних установ та критичної інфраструктури, які можуть бути атаковані за допомогою більш досконалого шкідливого ПЗ.
- Кінцевих користувачів, чиї пристрої та дані можуть бути скомпрометовані внаслідок успішних атак.
- Постачальників ШІ-рішень, чиї власні системи можуть бути використані для подальших зловмисних дій.
Для протидії подібним загрозам рекомендується вживати наступних заходів:
- Посилення заходів безпеки навколо інфраструктури розробки та розгортання ШІ-моделей.
- Регулярний моніторинг та аналіз підозрілої активності, пов'язаної з використанням ШІ-інструментів.
- Впровадження багатофакторної автентифікації та суворих політик доступу.
- Постійне оновлення антивірусних баз та систем виявлення вторгнень.
- Підвищення обізнаності співробітників щодо нових методів кіберзагроз, зокрема тих, що пов'язані зі штучним інтелектом.