Хакери знайшли спосіб обдурити Gemini та вкрасти дані користувачів

Спеціаліст із захисту даних Марко Фігуроа з Mozilla повідомив про вразливість в системі штучного інтелекту Google Gemini, яка може бути використана для фішингу. Про це повідомляє Android Headlines.

Проблема стосується Google Gemini для Workspace і полягає у тому, що зловмисники можуть створювати вигляд легітимних електронних листів із прихованими шкідливими інструкціями.

Як це працює?

Хакер вставляє у тіло листа невидимий код за допомогою HTML і CSS (шрифт розміром 0, колір білий), який Gmail не відображає. Через це листи не містять підозрілих посилань чи вкладень, і з високою ймовірністю потрапляють в основну поштову скриньку жертви, а не в спам.

Якщо користувач попросить Google Gemini створити короткий виклад такого листа, штучний інтелект проаналізує і виконає приховану інструкцію, що може спрямувати людину на фішинговий сайт.

Google підтвердила, що знає про цей тип атак і посилює захист своїх систем. Також компанія заявила, що наразі не зафіксовано реальних випадків використання цієї вразливості.

Це повідомлення було розкрито в рамках програми Mozilla Odin, яка займається пошуком збоїв у генеративних ШІ-сервісах.

• Нагадаємо, що Gemini отримала доступ до застосунків Android без згоди користувачів. Google не пропонує простого способу повністю відмовитися від інтеграції Gemini.
• Також компанія Google додала Gemini на смартгодинники. Оновлення охопить всі пристрої з Wear OS версії 4 і вище – серед них годинники Google, Samsung, OPPO, OnePlus та Xiaomi