В США адвокат поплатился за чрезмерное доверие искусственному интеллекту: Верховный суд штата Нью-Мексико оштрафовал юриста Стивена Аронса на 5000 долларов после того, как в поданной им апелляции обнаружились выдуманные ChatGPT свидетели и показания, сообщает Reuters.
Аронс представлял Оскара Рене Сандовала, осужденного за убийство матери своих детей и приговоренного в 2025 году к пожизненному заключению. Адвокат занимался обжалованием приговора и использовал ChatGPT при работе с материалами процесса.
Читайте нас также
Проблема обнаружилась уже после подачи документа в суд. Оказалось, что в апелляционной жалобе появились не просто неточные ссылки или ошибочно изложенные детали, а показания людей, которых в действительности вообще не существовало.
Согласно решению Верховного суда Нью-Мексико, среди придуманных свидетелей оказались офицеры полиции Мишель Амарильо и Санчес, а также еще два человека. Таким образом, искусственный интеллект фактически создал четырех участников процесса, включая двух якобы сотрудников полиции.
Но этим ошибки не ограничились. В документе появились ложные сведения о показаниях реальных свидетелей. В частности, утверждалось, что один из них получал угрозы от подсудимого. Были также выдуманы подробности внешности и одежды предполагаемого стрелка - например, что тот был одет в темные брюки и белую рубашку. Кроме того, суд обнаружил неправильное изложение правовых источников.
Адвокат рассчитывал получить «безошибочное резюме»
Аронс не отрицал использования ChatGPT. На слушаниях 21 августа он рассказал, что загрузил в систему компьютерную стенограмму процесса и другие материалы дела, рассчитывая получить надежное краткое изложение большого объема информации.
Однако полученный результат адвокат должным образом не проверил и впоследствии подписал и представил документ суду.
Сам Аронс позднее заявил Reuters, что не представлял, насколько далеко искусственный интеллект способен зайти в «галлюцинациях» - так называют случаи, когда генеративная модель уверенно сообщает несуществующие факты.
Юрист назвал произошедшее честной ошибкой и уроком для всех специалистов, использующих мощные, но не всегда надежные технологии.
Судьи к этому объяснению отнеслись гораздо жестче. Во время августовских слушаний судья Верховного суда Нью-Мексико К. Шеннон Бэкон спросила Аронса, следит ли он за новостями и знает ли о многочисленных случаях, когда юристы сталкивались с выдуманными искусственным интеллектом сведениями.
Суд в итоге признал Аронса виновным в неуважении к суду. Помимо штрафа в 5000 долларов, материалы направлены в дисциплинарную коллегию адвокатов для дальнейшего расследования.
Судьи также указали, что адвокат не проверил фактические утверждения и юридические основания в подготовленном с помощью ИИ документе, прежде чем подписать и подать его, и не сообщил клиенту о допущенных серьезных ошибках.
Апелляцию будут рассматривать заново с другим адвокатом
Для самого осужденного история на этом не закончилась. Апелляция Сандовала остается на рассмотрении.
Еще 2 сентября дело было передано государственному защитнику Нью-Мексико Ким Чавес Кук. Таким образом, ошибки предыдущего адвоката не должны лишить осужденного возможности обжаловать приговор.
История в Нью-Мексико стала продолжением уже целой серии подобных случаев в американских судах. За последние годы десятки адвокатов подвергались санкциям за предоставление судьям документов с созданными искусственным интеллектом несуществующими судебными решениями, ошибочными цитатами или правовыми нормами.
Однако случай Аронса оказался особенно серьезным: на этот раз искусственный интеллект придумал не только юридические ссылки, но и самих свидетелей и их показания в апелляции по делу об убийстве.
Главный урок этой истории касается не столько использования искусственного интеллекта, сколько проверки его работы. ChatGPT и другие генеративные модели могут помогать обрабатывать большие объемы текста, но созданное ими резюме не является подтвержденным источником. Если речь идет о судебном процессе, медицине, финансах или другой сфере, где ошибка может иметь серьезные последствия, факты необходимо сверять с документами.
