Губернатор Калифорнии Гэвин Ньюсом подписал новый закон, который вводит обязательные правила безопасности для компаний, разрабатывающих чат-ботов с искусственным интеллектом (ИИ), сообщает digitaltrends.com.
Этот законодательный акт стал первым законом на территории США, где который официально регулируется сегмент стремительно растущей индустрии ИИ.
Почему вообще возникла необходимость в таком законе? Его принятию предшествовали общественные дискуссии и ряд инцидентов, вызвавших широкий резонанс, включая случаи суицида среди подростков, которые произошли после деструктивных разговоров с ИИ-ботами.
Беспокойство у законодателей вызывает растущая способность современных чат-ботов имитировать человеческое общение и дружбу, что делает их привлекательными для одиноких или эмоционально уязвимых людей. По мнению экспертов, такое взаимодействие может приводить к распространению дезинформации и нанесению психологического вреда.
Закон вступит в силу в 2026 году.
Согласно новым требованиям, разработчики будут обязаны внедрить строгие меры безопасности, направленные на защиту несовершеннолетних и других уязвимых категорий пользователей от потенциально вредоносного контента и манипулятивного взаимодействия.
Основные требования таковы
- Компании должны будут внедрить надежные системы верификации возраста, чтобы ограничить доступ детей к опасному контенту.2. Они обязаны разработать и применять четкие протоколы на случай, если в диалоге с чат-ботом пользователь упоминает самоповреждение или суицидальные намерения.
- Компании обязаны информировать пользователей о том, что они ведут диалог с искусственным интеллектом, а не с реальным человеком.
Принятый в Калифорнии закон окажет существенное влияние на всю отрасль. По замыслу, он должен установить «стоп-сигналы» и повысить уровень безопасности при взаимодействии с ИИ.
Это означает, что технологические компании должны будут пересмотреть свои продукты и внедрить новые механизмы ответственности. За опытом Калифорнии будут следить и другие штаты, и данный закон может стать моделью для разработки аналогичного законодательства.
