17-летний Хоакин Оливер погиб семь лет назад. Теперь ИИ заставил его «заговорить» — и мир спорит, стоит ли нам играть в Бога.
Цифровой двойник 17-летнего Хоакина Оливера, созданный на основе его соцсетей, стал частью кампании против оружия в США — но вызвал острые споры об этике «воскрешения» умерших с помощью ИИ.
Британская журналистка Габи Хинслиф подняла в The Guardian вопрос об этических границах использования искусственного интеллекта, после того как бывший корреспондент CNN Джим Акоста опубликовал интервью с «виртуальной версией» Хоакина Оливера — 17-летнего подростка, погибшего в 2018 году при стрельбе в школе города Паркленд, штат Флорида.
Цифровой образ Хоакина был создан на основе его старых публикаций в соцсетях по инициативе родителей, которые ведут кампанию за ужесточение контроля над оружием в США. Помимо политических целей, отец признался, что они хотели снова услышать голос сына.
Мать часами общается с ИИ-версией подростка, слушая фразы вроде: «Я люблю тебя, мамочка».
Подобные технологии, по мнению автора, могут приносить утешение, как и хранение вещей погибшего или переслушивание старых аудиозаписей. Но они же открывают путь к эксплуатации человеческой потребности в связи с ушедшими. Уже сегодня семьи жертв используют цифровые аватары, чтобы выступать в суде или на митингах. Однако
в будущем ИИ-«воскрешения» могут стать массовым явлением — вплоть до постоянного общения с виртуальной копией умершего.
Вопросы этики и прав умерших остаются нерешёнными: закон защищает ДНК и тело, но не личные переписки, голосовые сообщения или фото, на которых обучаются такие системы. Возникают и конфликты внутри семей — что, если часть родственников хочет «вернуть» близкого в цифровом виде, а другая часть против?
Случай с Хоакином Оливером вызывает дополнительные опасения. Его виртуальный образ навсегда останется 17-летним, а передача ему доступа к соцсетям может привести к «галлюцинациям» ИИ или комментариям, которые реальный Хоакин никогда бы не сделал. В условиях, когда технологии становятся всё более реалистичными, обществу придётся решать, где проходит граница между памятью и созданием новой, искусственной «жизни».
«Воскрешение — это божественная сила, которую нельзя легко сдавать какому-то технарю с комплексом мессии. Но в то время как законные права живых не позволять своим личностям быть украденными для использования в ИИ-дипфейках становятся всё более устоявшимися , права мёртвых остаются запутанными.» — пишет автор.
Однако профессиональные вызовы, с которыми мы сталкиваемся, актуальны не только для журналистов. По мере развития искусственного интеллекта мы все чаще будем жить с синтетическими версиями самих себя. Это будет не просто относительно примитивная Алекса на вашей кухне или чат-бот в вашем ноутбуке (хотя уже есть истории о том, как люди очеловечивали ИИ или даже влюблялись в ChatGPT), а нечто гораздо более тонко настроенное на человеческие эмоции. Когда каждый десятый взрослый британец скажет исследователям, что у него нет близких друзей , конечно же, появится рынок ИИ-компаньонов.
Согласно библейскому стиху, который так часто читают на похоронах, есть время рождаться и время умирать. Как это изменит нас как вид, когда мы больше не знаем, что есть что?
