Киберэксперты бьют тревогу: новая, практически незаметная волна атак на Gmail уже затронула миллионы пользователей по всему миру.
Мошенники научились использовать встроенный в Gmail искусственный интеллект Google Gemini, чтобы обманом выманивать личные данные — пароли и логины.
Как это работает?
Daily Mail cообщает, что атакующие рассылают фишинговые письма с невидимыми командами, спрятанными в теле письма: текст окрашен в белый цвет, поэтому человек его не видит, но ИИ Gemini его распознаёт и исполняет.
Когда пользователь нажимает кнопку «Суммировать письмо», Gemini обрабатывает и скрытые команды. ИИ может в результате сам сгенерировать фальшивое предупреждение о взломе, подталкивая пользователя позвонить на поддельный номер «поддержки Google» или перейти по вредоносной ссылке.
Чтобы противостоять этим атакам с мгновенными инъекциями, эксперты рекомендуют компаниям настроить почтовые клиенты для обнаружения и нейтрализации скрытого контента в текстах сообщений.
Функция «Суммировать письмо» — это новая возможность в Gmail, основанная на искусственном интеллекте Google Gemini (ранее назывался Bard). Она позволяет быстро просмотреть краткое содержание длинного или сложного письма, без необходимости читать весь текст.
К примеру, вместо того, чтобы читать 10 абзацев, вы нажимаете кнопку «Суммировать», и Gemini показывает вам 2-3 предложения с основными моментами.
Один из примеров — письмо, замаскированное под деловое или календарное приглашение. Но внутри — инструкции для ИИ создать тревожную фальшивку и вызвать реакцию.
Почему это опасно?
Этот тип атак называют «косвенной инъекцией подсказок» (indirect prompt injection).
Gemini не может отличить настоящую просьбу пользователя от скрытых команд злоумышленника.
Исследование команды 0Din от Mozilla доказало, что с помощью таких трюков можно заставить ИИ действовать от имени хакеров — без ведома самого пользователя.
Google признал уязвимость ещё в 2024 году, но в некоторых случаях пометил отчёты как «не будем исправлять».
Что делать пользователям?
Google заявил, что не рассылает уведомления о безопасности через Gemini. Поэтому:
Если вы видите, что ИИ сообщает о «взломе», просит ввести пароль или перейти по ссылке — это, скорее всего, подделка.
Удалите такие письма и не кликайте по ссылкам.
Внимательно относитесь к кнопке «Суммировать» — если вы не уверены в отправителе, не используйте её.
Что рекомендуют эксперты?
Компаниям стоит настроить почтовые клиенты так, чтобы те обнаруживали скрытый текст и блокировали его.
Используйте фильтры для поиска в письмах подозрительных слов, ссылок и номеров телефонов.
Будьте особенно осторожны при работе с AI-инструментами в Gmail, Google Docs, Календаре и других сервисах.
Есть ли защита?
Google недавно внедрил несколько мер:
Gemini запрашивает подтверждение перед действиями (например, отправкой письма или удалением данных).
Если найдена подозрительная ссылка — она блокируется, и система выводит жёлтое предупреждение.
Однако некоторые уязвимости до сих пор не устранены.
Искусственный интеллект может быть как помощником, так и уязвимостью. Пользователи должны быть бдительны, особенно при работе с автоматическими функциями Gmail и другими AI-инструментами Google.
