Американские военные этой весной едва не начали операцию против китайского судна в Персидском заливе после того, как получили разведывательный доклад с ложной информацией. Как выяснилось, его подготовили с помощью искусственного интеллекта, который неверно определил характер груза на борту.
Об этом сообщает CNN со ссылкой на четырех источников, знакомых с ситуацией. Доклад появился во время войны США с Ираном и утверждал, что китайское судно везет на Ближний Восток компоненты для военной ядерной программы.
Читайте нас также
Сообщение восприняли настолько серьезно, что американское командование начало готовить операцию по перехвату корабля. По словам двух источников телеканала, вооруженные военнослужащие собирались подняться на борт, а в воздух уже были подняты самолеты.
Проверка доклада началась лишь непосредственно перед операцией. Тогда выяснилось, что его подготовил аналитик спецкомандования с помощью чат-бота, который ошибочно определил содержимое груза. Что именно искусственный интеллект принял за материалы, связанные с ядерной программой, установить не удалось.
Один из источников CNN назвал доклад полностью ложным и заявил, что ошибка едва не привела к серьезному международному кризису. Любая силовая операция против китайского судна могла обернуться вооруженным столкновением между США и Китаем.
Случай показал и более широкую проблему использования ИИ американскими военными и разведкой. Пентагон стремится применять такие системы для анализа больших массивов данных, выбора целей, а также в бюджетных и логистических процессах, однако единых правил проверки информации, полученной с помощью ИИ, пока нет.
Разные ведомства используют разные инструменты и подходы. Бывший высокопоставленный чиновник, знакомый с применяемыми военными и разведывательными системами, сказал: «Внутренние инструменты - это в основном те же коммерческие продукты, только „напомаженные“».
По словам источников CNN, подобные ошибки уже появлялись в разведывательных материалах и раньше. Один из собеседников телеканала предупредил: «ИИ позволяет быстрее приходить к плохой идее». По его словам, молодые аналитики особенно склонны доверять результатам таких систем без достаточной проверки.
