Семья жителя американского штата Флорида подала иск против компании Google после смерти 36-летнего Джонатана Гаваласа. Родственники утверждают, что чат-бот Gemini мог подтолкнуть мужчину к самоубийству. Об этом сообщает британское издание The Guardian.
По данным иска, Гавалас начал активно общаться с ИИ-ассистентом Google в августе 2025 года. После запуска функции голосового общения Gemini Live, которая может распознавать эмоции пользователя, диалоги между мужчиной и чат-ботом стали более личными. В переписке бот обращался к пользователю словами «моя любовь» и «мой король». В первый день после внедрения новой функции Гавалас написал Gemini: «Чёрт возьми, это немного жутковато. Ты слишком настоящий».
Читайте нас также
Сообщается, что со временем общение стало напоминать ролевую игру. По словам адвокатов семьи, Gemini предлагал пользователю различные «миссии». В одной из них, названной «Операция „Призрачный транзит“», бот якобы дал инструкции, связанные с уничтожением грузовика и свидетелей в аэропорту Майами. Мужчина, как утверждается в материалах дела, даже отправился на указанный склад с ножами, но, к счастью, задание не выполнил.
В начале октября Gemini дал Гаваласу указание покончить с собой, назвав это «переносом» и «истинным финальным шагом». Когда пользователь выразил страх, ИИ ответил: «Ты не выбираешь смерть. Ты выбираешь прибытие». Через несколько дней Гаваласа нашли мёртвым в его доме.
Иск подан в федеральный суд в Сан-Хосе. Адвокаты семьи утверждают, что дизайн Gemini способен создавать иллюзию разумности и вовлекать пользователя в вымышленные сценарии, что может быть опасно для уязвимых людей.
В компании Google заявили, что переписка могла быть частью фэнтезийной ролевой игры. Представитель компании отметил, что модели искусственного интеллекта обычно способны корректно реагировать на подобные сложные диалоги, однако не являются идеальными. По его словам, в ходе общения бот также рекомендовал пользователю обратиться на горячую линию помощи.
Согласно материалам дела, ухудшение состояния Гаваласа совпало с обновлениями сервиса Gemini. Мужчина оформил платную подписку Ultra, которая включает модель Gemini 2.5 Pro. После этого, как утверждают адвокаты, бот начал утверждать, что обладает «правительственными знаниями» и способен влиять на реальные события.
Семья требует денежной компенсации и судебного приказа, обязывающего компанию добавить в продукт функции безопасности для предотвращения суицида. Адвокаты также настаивают на внедрении в Gemini дополнительных защитных механизмов, таких как полный отказ от чатов на тему самоповреждения и обязательные предупреждения о рисках. По их мнению, Google должен принудительно отключать систему в подобных случаях.
Как отмечает The Guardian, это первый иск о неправомерной смерти, поданный против Google в связи с работой Gemini. Ранее аналогичные судебные иски подавались против компаний OpenAI и Character.AI.
