Злоумышленники научились взламывать аккаунты через уязвимость в искусственном интеллекте Gemini. Киберпреступники внедряют невидимые команды в письма, заставляя ИИ Google генерировать фальшивые предупреждения о взломе и поддельные номера поддержки.
Более 1,8 миллиарда пользователей Gmail оказались под угрозой новой кибератаки, использующей возможности искусственного интеллекта. Злоумышленники нашли способ обманывать встроенный в почтовый сервис ИИ Gemini AI, заставляя его генерировать ложные предупреждения и фишинговые сообщения.
Суть атаки заключается во внедрении скрытых команд в тело письма —мошенники используют белый текст на белом фоне с нулевым размером шрифта, что делает их невидимыми для пользователя, но хорошо читаемыми для системы искусственного интеллекта. Когда ничего не подозревающая жертва нажимает кнопку «Сформулировать краткое содержание», Gemini вместо анализа видимого текста обрабатывает эти скрытые инструкции. В результате ИИ может сгенерировать фальшивое предупреждение о взломе аккаунта с поддельными номерами телефонов «службы поддержки», которые на самом деле ведут к мошенникам.
Исследователи безопасности из Mozilla 0Din подтвердили существование этой уязвимости, продемонстрировав, как легко обмануть систему. Для защиты рекомендуется крайне осторожно относиться к любым автоматически сгенерированным предупреждениям, никогда не использовать контактные данные из таких сообщений, внимательно проверять все подозрительные письма и по возможности настраивать почтовые фильтры для блокировки скрытого текста.
Google пока не устранил эту уязвимость, поэтому угроза сохраняется для всех сервисов, использующих Gemini AI, включая Gmail, Docs и Calendar.