Microsoft вводит новые правила использования искусственного интеллекта в американских школах. Компания договорилась с Американской федерацией учителей (AFT) и ее нью-йоркским отделением о единых стандартах безопасности и защиты персональных данных. Они начнут применяться к школьным контрактам Microsoft в США с 1 ноября.
Новые правила не означают запрета искусственного интеллекта в школах. Их задача - определить, что ИИ-системам можно и нельзя делать при работе с детьми и их данными, сообщает Euronews.
Читайте нас также
Одно из наиболее заметных ограничений касается так называемых ИИ-компаньонов. В школьных продуктах Microsoft не должно быть функций, которые специально создают у ребенка эмоциональную привязанность или зависимость от чат-бота либо заставляют его продолжать общение дольше, чем необходимо для выполнения учебного задания.
Компания также обязалась не использовать данные школьников и преподавателей для обучения своих ИИ-моделей. Предусмотрено лишь узкое исключение для информации, необходимой для обеспечения безопасности детей.
Данные учеников нельзя будет продавать, использовать для рекламы или разработки новых продуктов. Запрещается и отслеживание школьников.
Еще один принцип - важные решения не должны оставаться за искусственным интеллектом. ИИ не сможет самостоятельно принимать решения, затрагивающие ученика, без контроля со стороны человека
Родители должны знать, что происходит с данными ребенка
Microsoft обязуется простым и понятным языком объяснять школам и семьям, как работают ее ИИ-инструменты, какую информацию они собирают и для чего она используется.
Соблюдение новых правил будет проверяться в том числе с помощью независимых аудитов.
Соглашение появилось на фоне все более активных споров в США о том, какое место искусственный интеллект должен занимать в образовании.
Крупнейшие школьные системы страны - Нью-Йорка и Лос-Анджелеса - в начале нового учебного года решили на год ограничить использование учениками ИИ, чтобы разобраться, как безопасно применять эту технологию в образовании. В Нью-Йорке ограничения распространяются на учеников начальной и средней школы, а в Лос-Анджелесе - в том числе на старшеклассников.
А что делают другие разработчики ИИ
Теперь один из главных вопросов - последуют ли примеру Microsoft другие технологические компании.
Американская федерация учителей уже ведет переговоры с OpenAI, создавшей ChatGPT, и Anthropic, разработчиком Claude.
OpenAI назвала соглашение с Microsoft важным шагом в обеспечении безопасности ИИ и защиты данных в школах и сообщила, что рассчитывает вскоре завершить работу над собственным соглашением с профсоюзом.
Anthropic также заявила, что вместе с AFT работает над стандартами безопасности и конфиденциальности.
Пока неизвестно, присоединится ли к инициативе Google - один из крупнейших поставщиков цифровых технологий для школ.
В августе компания оказалась в центре дискуссии после расширения доступа к инструментам Gemini через Google Classroom для школьных аккаунтов учащихся младше 18 лет. По данным Google, Classroom используют около 150 млн преподавателей и учащихся по всему миру.
Эксперты при этом предупреждают: более строгие правила защиты данных сами по себе еще не означают, что искусственный интеллект нужно активнее внедрять в школы.
Споры о допустимом возрасте для знакомства детей с генеративным ИИ идут и в Европе. Например, в Норвегии в этом году рекомендовали, чтобы ученики начальной школы, как правило, не использовали генеративный ИИ самостоятельно для выполнения заданий.
Во Франции подход несколько иной: знакомить детей с принципами работы искусственного интеллекта можно уже в начальной школе, однако самостоятельно пользоваться генеративным ИИ младшим школьникам не рекомендуется. Использовать такие инструменты непосредственно на уроках под контролем учителя можно примерно с 13-14 лет.
Проблема становится все актуальнее еще и потому, что подростки обращаются к чат-ботам далеко не только за помощью с уроками.
Исследование австрийского центра Saferinternet.at показало, что 94% опрошенных подростков от 11 до 17 лет уже пользуются ИИ-чат-ботами, а 73% используют такие инструменты для школы и домашних заданий.
Таким образом, вопрос для школ постепенно меняется: речь идет уже не столько о том, допускать ли искусственный интеллект в образование вообще, сколько о том, какие границы установить для его использования и как защитить детей.
