Хакеры нашли способ обмануть Gemini и украсть данные пользователей

Специалист по защите данных Марко Фигуроа из Mozilla сообщил об уязвимости в системе искусственного интеллекта Google Gemini, которая может быть использована для фишинга. Об этом сообщает Android Headlines.

Проблема касается Google Gemini для Workspace и заключается в том, что злоумышленники могут создавать имитацию легитимных электронных писем со скрытыми вредоносными инструкциями.

Как это работает?

Хакер вставляет в тело письма невидимый код с помощью HTML и CSS (шрифт размером 0, белый цвет), который Gmail не отображает. Из-за этого письма не содержат подозрительных ссылок или вложений и с высокой вероятностью попадают в основной почтовый ящик жертвы, а не в спам.

Если пользователь попросит Google Gemini создать краткое изложение такого письма, искусственный интеллект проанализирует и выполнит скрытую инструкцию, которая может направить человека на фишинговый сайт.

Google подтвердила, что знает об этом типе атак и усиливает защиту своих систем. Также компания заявила, что на данный момент не зафиксировано реальных случаев использования этой уязвимости.

Это сообщение было раскрыто в рамках программы Mozilla Odin, которая занимается поиском сбоев в генеративных сервисах ИИ.

• Напоминаем, что Gemini получила доступ к приложениям Android без согласия пользователей. Google не предлагает простого способа полностью отказаться от интеграции Gemini.
• Также компания Google добавила Gemini на смарт-часы. Обновление охватит все устройства с Wear OS версии 4 и выше – среди них часы Google, Samsung, OPPO, OnePlus и Xiaomi.