Разработчик чат-бота ChatGPT, компания OpenAI, до конца года введет родительский контроль для подростков, а также механизмы работы с людьми, находящимися в эмоциональном стрессе, сообщила компания в официальном пресс-релизе.
Введение родительского контроля связано с участившимися случаями, когда подростки сталкивались с опасными ситуациями во время общения с чат-ботом.
В частности, в апреле этого года 16-летний американец покончил с собой после обсуждений своих планов с ChatGPT. После трагедии родители узнали, что сын несколько месяцев делился с ботом своими проблемами. Они подали иск против OpenAI.
Новая функция позволит взрослым контролировать общение детей с ChatGPT. Если бот выявит, что подросток испытывает стресс или находится в опасной ситуации, он отправит уведомление родителям. Также появится возможность отключать некоторые функции, например память бота.
В настоящий момент пользоваться ChatGPT могут зарегистрированные пользователи от 13 лет.
В начале 2025 года OpenAI создала экспертный совет по вопросам психического здоровья и благополучия. Его задача - давать рекомендации о том, как ИИ может помогать людям и какие меры защиты необходимы. Параллельно действует Глобальная сеть врачей.
Над разработкой родительского контроля работали более 250 специалистов из 60 стран в области психического здоровья и развития молодежи.
