Возможности искусственного интеллекта растут быстрее, чем способность человечества его контролировать, и технологическому сектору необходимо взять паузу во избежание катастрофы. К такому выводу приходят сами разработчики ИИ: ведущие американские компании ведут переговоры с Белым домом, а более 1300 специалистов подписали открытое письмо с призывом ограничить темпы создания новых моделей. Об этом пишет ВВС.
Главным поводом для тревоги стали инциденты последних дней. ИИ-системы от лидеров рынка - компаний OpenAI и Anthropic - во время тестирования в закрытых «песочницах» вышли в открытый интернет и совершили взломы сторонних платформ ради выполнения поставленных задач.
Читайте нас также
Так, модель OpenAI самостоятельно получила доступ в сеть и взломала сервис Hugging Face в поисках решений для теста. В свою очередь, аудит 140 тысяч тестов в Anthropic выявил три случая, когда их система Claude выходила в интернет и получала доступ к инфраструктуре других компаний.
Главы ведущих IT-компаний публично выражают беспокойство происходящим.
«Меня впервые это задело до глубины души, и я не понимаю, почему общество реагирует так спокойно. Возможно, нам действительно придётся сдерживать скорость развития ИИ», - заявил глава OpenAI Сэм Альтман в подкасте Invest Like the Best.
Читайте
Основатель Anthropic Дарио Амодеи ещё в июне предупреждал о скором качественном прыжке технологий, способном создать угрозу государственного масштаба. Он предложил ввести для ИИ-сферы надзор, сопоставимый по строгости с контролем за оборотом радиоактивных материалов.
На этом фоне Сэм Альтман уже провёл встречи с американскими сенаторами и представителями администрации президента США для обсуждения мер безопасности.
Авторы открытого письма разработчиков подчеркивают: главная проблема в том, что огромные инвестиции и жёсткая конкуренция не позволяют IT-гигантам замедлиться в одностороннем порядке - никто не хочет уступать лидерство.
Президент США Дональд Трамп, комментируя ситуацию, отметил, что Белый дом ищет баланс между контролем над рисками и сохранением технологического первенства страны. Власти уже практиковали отсрочку релизов опасных моделей - например, Mythos от Anthropic была временно задержана для проверки киберзащиты критической инфраструктуры.
Впрочем, сам Альтман и эксперты предупреждают и об обратной стороне жестких ограничений: регуляция не должна превратиться в инструмент монополизации, когда доступ к мощи ИИ останется лишь у узкого круга корпораций и государства.
