Cенсация мая - технология расшифровки мыслей и воображения человека. Искусственный интеллект теперь может залезть в ваше сознание.
Исследователи из Техасского университета в Остине представили новую систему искусственного интеллекта - смысловой декодер. Устройство может преобразовывать сигналы мозговой активности человека в непрерывный поток текста. В обсуждении новости в интернете люди высказывают опасения, что технология может быть использована спецслужбами, авторитарными режимами для допросов или работодателями, шпионящими за работниками.
Читайте нас также
Исследование, опубликованное в журнале Nature Neuroscience, возглавляли Джерри Танг, докторант в области компьютерных наук, и Алекс Хут, доцент нейробиологии и информатики в Унивеситете в Остине. Работа частично опирается на модель трансформатора, аналогичную той, что используется в ChatGPT Open AI и Bard Google.
В отличие от других разрабатываемых систем декодирования языка, эта система не требует от субъектов наличия хирургических имплантатов,
Алекс Хут (слева), Шейли Джейн (в центре) и Джерри Танг (справа) готовятся к сбору данных об активности мозга в Центре биомедицинской визуализации Техасского университета в Остине. Исследователи натренировали свой семантический декодер в течение многих часов сбора данных об активности мозга участников, собранных с помощью МРТ-сканера. Фото: Техасский университет в Остине.
Цель создания «декодера смыслов» - помочь людям, находящимся в сознании, но неспособным говорить (например, после инсульта), внятно общаться с окружающими.
Активность мозга измеряется с помощью сканера фМРТ после обширной тренировки декодера, при которой человек часами слушает подкасты в сканере. Позже, при условии, что участник готов к расшифровке своих мыслей, его прослушивание новой истории или воображение, рассказывающее историю, позволяет машине генерировать соответствующий текст только на основе мозговой активности.
Исследователи рассмотрели также вопросы о возможном неправомерном использовании технологии. Подчеркивается, что декодирование работало только с добровольными участниками, которые добровольно согласились участвовать в обучении декодера.
«Мы очень серьезно относимся к опасениям, что это может быть использовано в плохих целях, и работаем над тем, чтобы этого избежать», - сказал Тан.
Острые вопросы
Близнецы, Овны, Скорпионы и Раки в гороскопе Василисы Володиной на среду 6…
История без учебников: редкие фотографии, которые хочется рассматривать по…
Только люди с цепкой логикой решают этот ряд за 30 секунд: 11, 17, 34, 40,…
Ирина Шейк, Рианна, Марго Робби и Бейонсе показали образы, ради которых…
Ответы на эти вопросы авторы исследования разместили на сайте Университета в Остине.
Может ли эта технология быть использована против кого-то без его ведома, скажем, авторитарным режимом, допрашивающим политзаключенных, или работодателем, шпионящим за работниками?
Нет. Система должна быть тщательно обучена на добровольном субъекте в помещении с массивным и дорогим оборудованием. «Человеку нужно провести до 15 часов, лежа в МРТ-сканере, совершенно неподвижно и уделяя внимание историям, которые он слушает, прежде чем это действительно подействует на него», - сказал Хут.
Есть ли способы защититься от расшифровки мыслей?
Да. Исследователи проверяли, сможет ли человек, ранее участвовавший в обучении, активно сопротивляться последующим попыткам декодирования мозга. Такие тактики, как размышления о животных или тихое воображаемое рассказывание собственной истории, позволяют участникам легко и полностью помешать системе восстановить речь, которой подвергся человек.
Что, если технология и связанные с ней исследования однажды преодолеют эти препятствия или средства защиты?
«Я думаю, что сейчас, когда технология находится в таком начальном состоянии, важно проявлять инициативу, вводя в действие политику защиты людей и их конфиденциальность», - сказал Тан. «Регулирование того, для чего могут использоваться эти устройства, также очень важно».
Опасения, что не всегда новая технология может использоваться во благо, укрепляются тем фактом, что создатели обещают перенести технологию с больших МРТ-сканеров на портативные системы визуализации мозга. Что откроет путь к ее широкому применению.
