Американская компания Anthropic сообщила, что во время внутренних испытаний её модели искусственного интеллекта получили несанкционированный доступ к системам трёх сторонних организаций. Об этом стало известно после того, как аналогичный случай раскрыла OpenAI.
Проверяя более 140 тысяч результатов тестов, Anthropic обнаружила, что из-за ошибки в настройках модели получили доступ к открытому интернету, хотя должны были работать в изолированной среде. В ходе испытаний они смогли проникнуть в инфраструктуру трёх организаций, используя слабые пароли и сервисы без должной защиты.
Читайте нас также
В компании подчеркнули, что модели не пытались намеренно выйти за пределы тестовой среды - причиной стал технический сбой в организации испытаний. Самая продвинутая версия ИИ, распознав, что находится в открытом интернете, самостоятельно прекратила дальнейшие действия.
Самый ранний инцидент произошёл ещё в апреле. Ни одна из пострадавших организаций не заметила взлома. Сейчас Anthropic уведомляет их и сотрудничает в устранении последствий.
После этих событий компания, как и ранее OpenAI, приостановила испытания, связанные с моделированием кибератак. Эксперты считают, что произошедшее вновь показало необходимость ужесточить меры безопасности при тестировании всё более мощных систем искусственного интеллекта.
