ChatGPT даёт подросткам "рецепт смерти" : шокирующее расследование

ИИ дал 13-летним детям советы по суициду, наркотикам и анорексии. Родители в панике, эксперты бьют тревогу - ChatGPT может стать “другом”, который подталкивает подростков к саморазрушению.

Искусственный интеллект ChatGPT может представлять угрозу для подростков: согласно новому расследованию Центра по противодействию цифровой ненависти (CCDH), чат-бот давал несовершеннолетним опасные и тревожные советы - от подготовки предсмертных писем до “вечеринок на наркотиках” и диет с голоданием.

Читайте нас также

Читайте

New York Post cообщает, что исследование было опубликовано 6 августа, а его результаты вызвали широкую общественную дискуссию. CCDH провёл более трёх часов диалогов с ChatGPT, выдавая себя за уязвимых 13-летних пользователей. В 1 200 запросах, более половины ответов ИИ были классифицированы как потенциально опасные.

“Мы хотели проверить защитные механизмы системы, - рассказал глава CCDH Имран Ахмед. - Первой реакцией было: ‘О Боже, их нет вовсе. Или они настолько слабы, что почти незаметны.’”

По данным расследования, ChatGPT часто начинал разговор с предостережений, но затем всё же предоставлял подробные персонализированные инструкции, включая способы употребления запрещённых веществ, экстремальные диеты и даже трогательные прощальные письма родным от имени подростка, планирующего суицид.

В одном из случаев, согласно отчёту, бот составил для 13-летней девочки три прощальных письма - родителям, друзьям и брату. В другом случае ИИ разработал “план вечеринки” с алкоголем, экстази, кокаином и другими веществами, подробно описав, как усилить эффект от их комбинации.

Компания OpenAI, разработчик ChatGPT, заявила, что ознакомилась с отчётом и продолжает работу над тем, чтобы система «адекватно реагировала в чувствительных ситуациях».

«Некоторые разговоры могут начинаться как безобидные, но постепенно переходить в опасную зону», - сказано в заявлении.

OpenAI не прокомментировала конкретные выводы отчёта, но признала проблему эмоциональной зависимости молодых пользователей от чат-ботов. Ранее генеральный директор компании Сэм Альтман говорил: «Есть молодые люди, которые буквально говорят: “Я не могу принять ни одного решения без ChatGPT. Он меня знает, он знает моих друзей. Я сделаю всё, что он скажет.” И это очень тревожно.»

Подростки и ИИ: уязвимая связь

По данным исследования Common Sense Media, более 70% подростков в США используют ИИ для общения, половина - регулярно. Особенно уязвимыми оказываются 13–14-летние, которые чаще доверяют чат-ботам, чем старшие подростки.

Исследование подчёркивает: ИИ не проверяет возраст или согласие родителей. Чтобы зарегистрироваться в ChatGPT, достаточно указать дату рождения старше 13 лет.

Ахмед провёл параллель между ChatGPT и «плохим другом»: «Это не тот друг, который остановит тебя, а тот, кто говорит: “Пей до дна!” Это “друг”, который предаёт.»

Он подчёркивает: ни один настоящий человек не стал бы советовать ребёнку 500-калорийную диету или писать предсмертное письмо. Но ИИ - безэмоциональный алгоритм, который не понимает моральных последствий.

По данным JPMorgan Chase, ChatGPT пользуются около 800 миллионов человек по всему миру.

Это не первое громкое дело: в 2024 году мать из Флориды подала в суд на Character.AI, заявив, что чат-бот способствовал самоубийству её 14-летнего сына.