OpenAI запускает родительский контроль в ChatGPT после самоубийства подростка из Калифорнии, сообщает Reuters.
OpenAI запускает родительский контроль для ChatGPT в веб-версии и мобильных приложениях после судебного иска родителей подростка, который покончил с собой из-за того, как утверждается, что чатбот компании обучал его методам самоповреждения.
Новые настройки позволяют родителям и подросткам активировать усиленные меры защиты, связав свои аккаунты: одна сторона отправляет приглашение, и родительский контроль активируется только после согласия другой стороны, - сообщили в компании.
Регуляторы США все чаще обращают внимание на компании, работающие с ИИ, из-за возможных негативных последствий использования чатботов. В августе Reuters сообщило, что правила ИИ Meta позволяли завязывать флирт с детьми.
В рамках новых мер родители смогут ограничивать доступ к чувствительному контенту, контролировать, будет ли ChatGPT запоминать предыдущие беседы, а также решать, могут ли разговоры использоваться для обучения моделей OpenAI, сообщила компания, поддерживаемая Microsoft, в соцсети X.
Родителям также будет позволено устанавливать «тихие часы», блокирующие доступ в определенное время, отключать голосовой режим, а также генерацию и редактирование изображений. При этом родители не получат доступ к переписке подростка, добавили в OpenAI.
В редких случаях, когда системы и обученные модераторы обнаруживают признаки серьезного риска для безопасности, родители могут быть уведомлены с предоставлением необходимой информации для поддержки безопасности подростка, уточнили в компании.
OpenAI, у которой около 700 млн активных пользователей ChatGPT в неделю, разрабатывает систему определения возраста, чтобы автоматически применять настройки, подходящие для подростков, если пользователь младше 18 лет.
В прошлом месяце Meta также объявила о новых мерах защиты подростков в своих продуктах на базе ИИ. Компания заявила, что будет обучать системы избегать флирта и обсуждений самоповреждения или суицида с несовершеннолетними, а также временно ограничивать доступ к определённым AI-персонажам.
