Компания Anthropic, создавшая модель Claude, призвала другие лаборатории приостановить разработку систем искусственного интеллекта из-за угрозы потерять контроль над ними. Об этом говорится в блоге компании.
В Anthropic заявили, что системы искусственного интеллекта развиваются настолько быстро, что вскоре станут способны улучшать себя без участия человека - полностью автономно.
Читайте нас также
Этот процесс называется «рекурсивным самосовершенствованием». Если технические тенденции в разработке будут сохраняться, то системы ИИ достигнут этого уровня быстрее, чем к этому готовы большинство институций, предупредили соучредитель Anthropic Джек Кларк и руководитель Anthropic Institute Марина Фаваро.
«Мы еще не дошли до этой стадии. Однако она может наступить быстрее, чем к этому готовы большинство институтов», - говорится на сайте компании. Исследования показали, что:
Claude за менее чем год превратился из «очень полезного» в «сверхчеловеческого»
Призывы приостановить разработки искусственного интеллекта звучали и ранее. В марте 2023 года Илон Маск предупредил о «серьезных рисках для человечества» и призвал приостановить обучение новых систем ИИ. Однако спустя месяц он объявил о намерении создать собственный чат-бот на основе ИИ.
В мае 2026 года Папа римский Лев XIV призвал замедлить и строго регулировать развитие систем искусственного интеллекта, так как они помимо прочего способствуют развитию зависимости от них и усиливают неравенство.
Компания Anthropic основана в 2021 году бывшими сотрудниками OpenAI. В последние годы она стала одним из лидеров рынка генеративного ИИ.
