Атаки з генеративним ШІ стали масовими – дані Gartner

Більшість організацій у світі вже зіткнулися з новими кіберзагрозами через генеративний ШІ. Компанія Gartner провела дослідження серед 302 керівників з кібербезпеки у Північній Америці, Європі та Азії.

62% компаній повідомили про дипфейк-атаки. Найчастіше йшлося про використання підроблених зображень та відео. Зловмисники застосовували їх, щоб вводити співробітників в оману або втручатися в автоматизовані процеси.

Ще 32% компаній повідомили про атаки на застосунки з генеративним ШІ. Хакери спеціально створювали маніпулятивні запити, щоб змусити чат-боти чи інші моделі видавати небезпечні або викривлені відповіді.

Крім того, 29% організацій зазнали атак на корпоративну інфраструктуру GenAI. Йдеться про випадки, коли зловмисники намагалися зламати системи, які забезпечують роботу ШІ-рішень у компаніях. Аналітик Gartner Акіф Хан порадив бізнесу зосередитися на посиленні базових систем безпеки та впроваджувати окремі рішення для нових типів загроз.

Нагадаємо, що чат-боти можуть допомогти інтернет-шахраям ошукувати літніх людей. А нещодавно хакери знайшли спосіб обдурити Gemini та вкрасти дані користувачів.