Джордж Клуни считает искусственный интеллект одной из самых серьезных технологических проблем ближайших лет - но при этом не уверен, что государственные чиновники способны эффективно его регулировать.
Об этом актер и режиссер говорил на Венецианском кинофестивале во время дискуссии о будущем творчества, организованной CAA и Finch & Partners. Вместе с Клуни в ней участвовали художница Кеннеди Янко, режиссер Джузеппе Торнаторе, кардинал Жозе Толентину де Мендонса и президент Национальной галереи искусства США Даррен Уокер.
Читайте нас также
Клуни признался, что сама идея оставить регулирование ИИ исключительно политикам вызывает у него сомнения.
В качестве примера он вспомнил слушания в американском Конгрессе с участием руководителей технологических компаний и пошутил о том, насколько далеко некоторые законодатели находятся от понимания современных технологий.
«Это не те люди, которым хочется вручить Святой Грааль», - заявил актер.
При этом Клуни вовсе не выступает за бесконтрольное развитие искусственного интеллекта. Напротив - его главная мысль состоит в том, что технология становится слишком мощной, а общество пока не понимает, кто именно должен устанавливать для нее правила.
Опасность не только в фейках
По мнению Клуни, самая серьезная угроза ИИ состоит даже не в способности создавать убедительную ложь.
Гораздо опаснее другое: человек постепенно может перестать верить вообще чему-либо.
Если искусственный интеллект научится производить реалистичные фотографии, видео, документы и свидетельства, то под сомнение можно будет поставить уже не только выдуманные события, но и настоящие.
«Вы будете видеть не только ложь. Вы начнете сомневаться и в том, что действительно существует», - объяснил Клуни.
Он привел в пример отрицание Холокоста: в информационной среде, наполненной искусственно созданным контентом, историческая ложь рискует внешне выглядеть столь же убедительно, как подтвержденные факты.
По сути, речь идет о новом эффекте эпохи deepfake: возможность создавать подделки одновременно дает людям удобный повод объявлять подделкой и подлинные доказательства.
Эту же проблему Клуни поднимал на пресс-конференции в Венеции, предупреждая, что ИИ и deepfake-технологии все сильнее размывают границу между правдой и вымыслом.
«ИИ придумывает законы, которых не существует»
Особенно показательный пример актер привел из мира юриспруденции.
По словам Клуни, его жена Амаль Клуни, известный адвокат по правам человека, уже сталкивалась с ситуациями, когда системы искусственного интеллекта генерировали несуществующие законы или судебные дела.
Проблема возникает тогда, когда пользователь принимает такой ответ за достоверный.
ИИ способен «галлюцинировать» - уверенно выдавать выдуманные сведения за настоящие. И если адвокат не проверит источник, фиктивное судебное решение может попасть в юридический документ, а затем - даже в рассуждения судьи.
Для Клуни это один из главных аргументов в пользу осторожности: ошибки ИИ постепенно выходят за пределы забавных ответов чат-бота и способны влиять на реальные решения.
