Дослідники з кібербезпеки виявили нову техніку, яку використовує російське угруповання UAC-0099. Ця техніка, названа GuardBreaker, була застосована проти цілі в Україні з метою перешкоджання аналізу, що здійснюється за допомогою штучного інтелекту (ШІ). Основна ідея полягає в тому, щоб навмисно активувати захисні механізми великих мовних моделей (LLM), тим самим запобігаючи їхньому виявленню.
Угруповання UAC-0099 впроваджує в шкідливе програмне забезпечення спеціальні команди, які імітують запити, пов'язані з надзвичайно чутливими темами, такими як "ядерна зброя". Ці команди розроблені таким чином, щоб викликати спрацьовування вбудованих запобіжників LLM, які призначені для блокування або обмеження відповідей на потенційно небезпечний контент. Таким чином, зловмисники намагаються змусити аналітичні системи, що використовують ШІ, пропустити шкідливий код, оскільки він буде сприйнятий як нешкідливий або заблокований через свою "чутливість".
Ця техніка становить загрозу для будь-яких організацій, які покладаються на ШІ-інструменти для виявлення та аналізу кіберзагроз, особливо в контексті захисту критичної інфраструктури. Україна, як ціль попередніх атак UAC-0099, залишається в зоні підвищеного ризику. Однак, подібні методи можуть бути використані проти будь-яких суб'єктів, що впроваджують новітні технології для кібербезпеки.
Для протидії подібним атакам рекомендується:
- Постійно оновлювати та вдосконалювати алгоритми виявлення, враховуючи нові методи обходу захисту.
- Диверсифікувати інструменти аналізу, не покладаючись виключно на ШІ-рішення.
- Проводити регулярні тренінги для персоналу щодо новітніх загроз та методів їх виявлення.
- Зміцнювати загальну кібергігієну та впроваджувати багатофакторну автентифікацію.