Google удалил ряд ИИ-сводок о здоровье после предупреждений экспертов о риске для пользователей
Independent сообщает, что компания Google удалила несколько автоматически сгенерированных ИИ-сводок о здоровье после расследования, которое показало, что часть из них содержала неточную или вводящую в заблуждение информацию.
Читайте нас также
Ранее газета The Guardian обнаружила проблемы в работе функции AI Overviews - кратких обзоров, создаваемых генеративным ИИ и отображающихся в верхней части поисковой выдачи. В ряде случаев такие сводки касались медицинских тем.
В одном из примеров на вопрос «каков нормальный диапазон показателей печёночных анализов крови» ИИ не учитывал важный контекст - страну проживания, пол, возраст или этническую принадлежность пациента. Эксперты предупредили, что из-за этого люди с серьёзными проблемами со здоровьем могли ошибочно считать свои результаты нормальными и не обращаться за медицинской помощью.
После публикации расследования Google удалил ИИ-сводки по запросам «нормальный диапазон анализов печени» и «нормальные показатели печёночных проб». В компании подчеркнули, что обновляют результаты, если обнаруживают недостаток контекста.
Google, на долю которого приходится более 90% мирового рынка поисковых систем, заявил, что не комментирует отдельные случаи удаления контента. По словам представителя компании, внутреннюю проверку провела команда клиницистов, и во многих случаях информация всё же соответствовала данным с авторитетных медицинских сайтов.
Директор по коммуникациям и политике благотворительной организации British Liver Trust Ванесса Хебдич приветствовала решение Google, но отметила, что риски остаются.
По её словам, если пользователь задаст вопрос немного иначе,
поисковик всё ещё может показать потенциально вводящую в заблуждение ИИ-сводку.
Она подчеркнула, что интерпретация печёночных проб - сложный процесс, который нельзя сводить к простому сравнению цифр.
«ИИ-обзоры выделяют показатели жирным шрифтом, из-за чего читатель может не заметить, что эти значения вообще не относятся к его анализу», - пояснила Хебдич.
The Guardian также сообщил, что ИИ-сводки продолжают появляться по схожим запросам, таким как «референсные значения LFT». Google заявил, что уже изучает эти новые примеры.
