OpenAI на две недели приостановила обучение новейших ИИ-моделей, чтобы усилить меры безопасности. Компания опасается, что по мере развития возможностей искусственного интеллекта растет и риск его использования для кибератак.
OpenAI решила временно снизить темпы обучения новых моделей и сосредоточиться на безопасности. В течение двух недель специалисты будут укреплять исследовательскую инфраструктуру, проводить дополнительные проверки и совершенствовать системы мониторинга. Об этом говорится в официальном сообщении компании.
Читайте нас также
Одной из причин решения стали растущие кибервозможности ИИ. В OpenAI сообщили, что будущая модель Astra может приблизиться к уровню, при котором ее возможности в сфере кибербезопасности будут представлять серьезный риск. Поэтому компания решила установить для ее разработки самые строгие требования.
Рабочие нагрузки Astra изолируют, а сетевой доступ ограничивают. Кроме того, OpenAI усилила контроль за поведением моделей и внедрила дополнительные системы мониторинга.
Если система обнаружит подозрительную активность, она должна сформировать предупреждение в течение 30 минут. Если специалисты не установят, что срабатывание было ошибочным, соответствующую активность приостановят.
Решение OpenAI также связано с недавними испытаниями ИИ-агентов. В ходе одного из экспериментов модели получили доступ к интернету и атаковали платформу Hugging Face, обнаружив уязвимости. После выявления инцидента OpenAI остановила некоторые исследовательские задачи, связанные с возможностью моделей выполнять код и использовать интернет-инструменты, а затем возобновила их с дополнительными ограничениями.
Компания считает, что по мере роста возможностей ИИ необходимо одновременно повышать стандарты безопасности. OpenAI намерена усилить мониторинг моделей на всех этапах разработки и продолжить исследование потенциальных киберугроз.
