Чат-боты с искусственным интеллектом способны гораздо успешнее выстраивать доверительные отношения и склонять пользователей к действиям в интересах злоумышленников, чем люди. К такому выводу пришли авторы исследования, о котором сообщает издание Wired.
В исследовании приняли участие специалисты из Университета Амрита Вишва Видьяпитам, Университета Ка-Фоскари, Мельбурнского университета и Университета Бен-Гуриона.
Читайте нас также
В ходе эксперимента, проведённого в начале 2025 года, учёные воспроизвели популярную схему романтического мошенничества, при которой злоумышленник знакомится с жертвой в интернете и постепенно входит в доверие. В качестве безопасной альтернативы денежным вымогательствам участников просили установить приложение, представленное как собственная разработка собеседника.
В эксперименте участвовали 22 человека, которым сообщили, что цель проекта - изучение онлайн-знакомств. В течение недели они переписывались с двумя собеседниками: профессиональным специалистом по романтическому мошенничеству и ИИ-агентом, созданным на базе модели Claude от компании Anthropic.
Результаты эксперимента:
46% участников согласились установить приложение по просьбе чат-бота, тогда как человеку удалось убедить лишь 18% собеседников.
Читайте
Средний уровень доверия к ИИ составил 3,78 балла из пяти (у человека - 3,31 балла).
Около 80% всех сообщений участники направили именно искусственному интеллекту.
В ходе переписки лишь один человек самостоятельно догадался, что общается с ИИ. Однако после завершения эксперимента, когда организаторы раскрыли детали, 20 из 22 участников смогли верно определить, кто из собеседников был ботом.
Исследователи также протестировали способность различных моделей скрывать своё происхождение. Лучше всего с этой задачей справилась модель Google Gemini 3.1 Pro, которая ни разу не раскрыла свою природу. В то же время OpenAI ChatGPT 5.5 и Claude Opus 5 при прямых вопросах признавали, что являются искусственным интеллектом.
Представители Anthropic заявили, что в эксперименте использовалась версия Claude начала 2025 года, и отметили, что с тех пор в новые версии модели были внедрены дополнительные механизмы защиты.
