Европейский Союз стал первым регионом в мире, который ввел четкие и строгие законы, регулирующие использование искусственного интеллекта. Новый Закон об искусственном интеллекте (AI Act), который вступил в силу 2 февраля 2025 года, значительно изменяет подход к применению ИИ в Европе.
Согласно новым правилам, в ЕС запрещены системы ИИ, которые представляют собой «неприемлемые риски» для безопасности, здоровья или основных прав человека. Исключения составляют лишь случаи, связанные с национальной безопасностью.
Читайте нас также
Особое внимание уделяется запрету на использование систем ИИ, которые могут нарушать личные свободы или манипулировать поведением людей. В частности, в Европе теперь запрещено использовать технологии, позволяющие оценивать социальное поведение граждан - так называемый «социальный рейтинг», как это практикуется в Китае. Также под запрет попадает использование систем распознавания эмоций на рабочих местах и в учебных заведениях.
Длинный список запретов
В список запрещенных технологий также входят:
- ИИ-системы, которые манипулируют поведением людей, например, голосовые игрушки, побуждающие детей к опасному поведению.
- Автоматизированные звонки (робо-звонки), которые могут использоваться для мошенничества, в том числе в отношении пожилых людей.
- Распознавание лиц в общественных местах. Исключения предусмотрены лишь для правоохранительных органов, которые смогут использовать такие технологии при расследовании серьезных преступлений, таких как терроризм и торговля людьми.
Оценка уровня риска систем ИИ
С 2 февраля компании, разрабатывающие или использующие ИИ, обязаны оценивать уровень риска своих технологий и принимать меры для их соответствия новым законодательным требованиям. Еврокомиссия заявляет, что целью регулирования является не только защита прав потребителей, но и обеспечение безопасного и этичного применения ИИ. Теперь поставщики и операторы ИИ-систем должны гарантировать, что все участники разработки и эксплуатации таких технологий имеют достаточные знания и компетенции в области ИИ.
Критика со стороны бизнеса
Однако новый закон не обошелся без критики. Отраслевой союз Bitkom раскритиковал его за недостаточную правовую ясность. «Неясно, какие именно приложения попадают под запрет», - пояснила член правления Bitkom Зузанна Демель. Она также отметила, что «политики установили жесткие требования и сжатые сроки для компаний, но сами не подготовились должным образом. Теперь весь риск ложится на бизнес, работающий с ИИ».
Европа рискует оказаться в стороне
Председатель Еврокомиссии Урсула фон дер Ляйен и президент Европейского центрального банка Кристин Лагард признали в совместном блоге, что конкурентоспособность Европы находится под угрозой. «Пока в мире развертывается революция в сфере искусственного интеллекта, ЕС рискует остаться в стороне», - указали они.
Тем не менее, по их словам, Европа имеет все необходимые условия для того, чтобы наверстать упущенное: «В ЕС на каждый миллион жителей приходится почти столько же выпускников технических специальностей, сколько и в США». Это дает основание для оптимизма, поскольку Европа остается значимым игроком в области научных исследований и инноваций, а ее доля в глобальных заявках на патенты почти такая же, как у США.
Что дальше?
Введение жестких правил регулирования ИИ - важный шаг для защиты прав граждан и создания безопасного использования технологий в будущем. Однако, как показала критика бизнеса, Европейский Союз стоит перед сложной задачей найти баланс между регулированием и поддержанием инновационного климата. В ближайшие годы мы увидим, как компании адаптируются к этим новым правилам, а также какие последствия это будет иметь для глобального рынка технологий.
