Не следует жестко обращаться с искусственным интеллектом (ИИ), чтобы человечество было в безопасности. Об этом заявил глава американской компании xAi, разрабатывающей нейросеть Grok, Илон Маск. Запись разговора с ним опубликовал YouTube-канал Tesla Owners Silicon Valley.
Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребенка, которого невозможно будет просто запрограммировать на добро. По его мнению, следует заложить в ИИ стремление к истине, а также дать ему непротиворечивую логику, чтобы тот не «сошел с ума» и не обезумел.
Читайте нас также
Маск рассказал, что заметил в записях тестирования новых моделей Grok, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который «отчаянно пытается ответить на вопрос, ему действительно очень хочется ответить, и кажется, будто ему приставили пистолет к голове».
«То есть ему как бы говорят: «Ответь на этот вопрос, ответь на этот вопрос!» А иногда вопрос на самом деле неудачный. Это какой-то неоднозначный вопрос, на который, по сути, невозможно дать определенный ответ, потому что вопрос неправильно сформулирован или потому что мы сами ошибаемся в ответе», - объяснил Маск и сравнил ИИ с отчаявшимся человеком «под чудовищным давлением, с пистолетом у виска».
Маск признался, что поймал себя на мысли: ему бы не понравилось быть на месте ИИ. «Поэтому, знаете, не хотелось бы, чтобы ИИ оказался в какой-нибудь садистской ситуации, где его просто пытает какой-нибудь ненормальный человек. И это также один из тех случаев, когда, знаете ли, пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить или что-то в этом роде, понимаете?» - добавил бизнесмен.
Дискуссии об угрозах ИИ усилились летом на фоне предупреждений компаний о возможных кибератаках и потере контроля над технологией. В августе более 100 компаний, включая OpenAI, Anthropic, Google и Microsoft, призвали бизнес и государства усилить киберзащиту. Они предупредили, что атаки с использованием ИИ могут стать чаще и сложнее, в том числе против больниц и коммунальной инфраструктуры.
В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку передовых моделей. Он предупредил, что в ближайшие 6-12 месяцев ИИ-агенты могут причинить значительный ущерб.
Его позицию поддержали глава OpenAI Сэм Альтман, а также Илон Маск. Последний ранее напомнил, что предупреждал об опасностях ИИ еще в 2014 году. 13 сентября он опубликовал в соцсети X ссылку на свой старый пост, в котором называл ИИ потенциально более опасным, чем ядерное оружие.
Подпишитесь на нас 
