Искусственный интеллект едва не стал причиной трагедии: чат-бот ChatGPT не смог распознать болиголов - одно из самых опасных растений в мире. Об инциденте сообщила блогер Кристи (Kristy) в социальных сетях, внимание на историю обратило издание LADbible.
По словам инфлюенсера, ее подруга обнаружила на заднем дворе подозрительное растение и решила идентифицировать его с помощью нейросети. Она отправила ChatGPT фотографию и попросила уточнить вид.
Читайте нас также
В ответ чат-бот заявил, что перед ним обычная морковь. Нейросеть даже привела аргументы в пользу своей версии, указав на «мелко разделенные и перистые листья», которые якобы характерны для морковной ботвы.
Пользовательница попыталась уточнить информацию, прямо спросив ИИ, не может ли это быть ядовитый болиголов. Однако алгоритм несколько раз настойчиво опроверг это предположение. Даже когда женщина загрузила дополнительные снимки, ChatGPT продолжал стоять на своем. Система утверждала, что у растения на фото отсутствуют гладкие полые стебли с фиолетовыми пятнами (отличительный признак болиголова), хотя на самих кадрах эти приметы были отчетливо видны.
Ситуация прояснилась только после обращения к другому сервису. Кристи загрузила те же фото в Google Lens, который мгновенно и безошибочно определил смертельно опасный сорняк. Примечательно, что когда подруга Кристи открыла новое диалоговое окно в ChatGPT и повторила запрос, бот со второй попытки все же признал в растении яд.
«Она взрослый человек, и она знала, что нужно спрашивать больше, чем сказал ChatGPT. А что, если бы нет? Она бы буквально умерла, противоядия от этого нет», - подчеркнула Кристи.
Блогер призвала подписчиков никогда не использовать большие языковые модели для решения вопросов, связанных со здоровьем и безопасностью. По ее мнению, чрезмерное доверие к ИИ в подобных бытовых ситуациях может привести к фатальным последствиям.
