Специалист по защите данных Марко Фигуроа из Mozilla сообщил об уязвимости в системе искусственного интеллекта Google Gemini, которая может быть использована для фишинга. Об этом сообщает Android Headlines.
Проблема касается Google Gemini для Workspace и заключается в том, что злоумышленники могут создавать имитацию легитимных электронных писем со скрытыми вредоносными инструкциями.
Как это работает?
Хакер вставляет в тело письма невидимый код с помощью HTML и CSS (шрифт размером 0, белый цвет), который Gmail не отображает. Из-за этого письма не содержат подозрительных ссылок или вложений и с высокой вероятностью попадают в основной почтовый ящик жертвы, а не в спам.
Если пользователь попросит Google Gemini создать краткое изложение такого письма, искусственный интеллект проанализирует и выполнит скрытую инструкцию, которая может направить человека на фишинговый сайт.
Google подтвердила, что знает об этом типе атак и усиливает защиту своих систем. Также компания заявила, что на данный момент не зафиксировано реальных случаев использования этой уязвимости.
Это сообщение было раскрыто в рамках программы Mozilla Odin, которая занимается поиском сбоев в генеративных сервисах ИИ.
- Напоминаем, что Gemini получила доступ к приложениям Android без согласия пользователей. Google не предлагает простого способа полностью отказаться от интеграции Gemini.
- Также компания Google добавила Gemini на смарт-часы. Обновление охватит все устройства с Wear OS версии 4 и выше – среди них часы Google, Samsung, OPPO, OnePlus и Xiaomi.
