Американская компания Anthropic, разработчик ИИ-моделей Claude, заявила, что пресекла попытки неназванных пользователей использовать ИИ Claude для исследований, которые могли привести к созданию биологического оружия, сообщает ВВС.
Отчет Anthropic о случаях злоупотребления искусственным интеллектом был опубликован 10 сентября. Компания отмечает, что описанные в документе случаи - не обычные примеры неправильного использования ИИ, а наиболее серьезные и новые виды угроз, которые удалось выявить.
Читайте нас также
Anthropic обнаружила случаи злоупотребления своими моделями в период с декабря 2025 года по август 2026 года. Среди них были попытки использовать ИИ для разработки шпионского программного обеспечения, политически мотивированной деятельности и распространения пропаганды при поддержке государств.
В отчете также описаны пять случаев, связанных с потенциальным созданием биологического оружия.
В одном из случаев пользователь Claude просил помочь подготовить заявку на научный грант. Речь шла об исследовании, которое предполагало генетическое изменение вируса чикунгунья - в частности, его заразности и способности обходить иммунную систему.
В Anthropic признают, что подобные исследования могут быть полезны для разработки вакцин и лекарств. Однако те же методы могут использоваться для того, чтобы сделать патоген более опасным.
Только один из описанных в отчете случаев связан с новейшими моделями Anthropic. Компания назвала его «тайной кампанией промышленных масштабов», направленной на изучение возможностей модели и их воспроизведение без разрешения.
По данным Anthropic, более старые версии моделей не могли существенно помочь пользователям в проведении опасных биологических исследований, поэтому меры безопасности в них были менее строгими. В новых моделях эти меры были усилены, а доступ к широкому спектру запросов о биологических исследованиях, которые могут иметь как мирное, так и военное применение, ограничен.
Разработчики ИИ уже неоднократно предупреждали, что искусственный интеллект может значительно упростить исследования в области синтетической биологии.
Во вторник Google также опубликовал отчет, в котором говорится, что один из пользователей пытался получить у чат-бота Gemini «пошаговую техническую инструкцию» по созданию биологических агентов, которые можно использовать в качестве оружия.
Биологическое оружие запрещено Конвенцией по биологическому оружию. При этом документ не предусматривает механизмов контроля за соблюдением этого запрета. Специалисты также отмечают, что число биологических лабораторий в мире растет, случаи утечки патогенов уже происходили, а полностью исключить риск новых утечек невозможно.
