Расследование The Guardian показало, что обзоры Google на основе искусственного интеллекта (ИИ) иногда могут быть опасными для здоровья. ИИ в поиске может давать неточные или вводящие в заблуждение советы по диагностике и лечению заболеваний, которые могут заставить людей принимать неправильные решения или откладывать обращение к врачу.
Например, ИИ посоветовал пациентам с раком поджелудочной железы избегать жирной пищи, что противоречит медицинским рекомендациям и может быть опасным для жизни. Это может привести к потере веса и проблемам с химиетерапией или хирургическим вмешательством, пояснила директор Pancreatic Cancer UK Анна Джуэлл.
Также AI иногда дает неправильные нормы анализов печени без учета возраста, пола или этнической принадлежности, из-за чего люди с серьезными проблемами могут думать, что они здоровы, добавила руководитель Британского фонда по лечению печени Памела Гили.
Кроме того, ИИ распространял неточную информацию о психических расстройствах, которая могла отпугнуть людей от обращения за помощью. Результаты поиска также могут меняться при повторных запросах, отметила Афина Ламнисос из Eve Appeal.
Google сказал, что большинство обзоров ИИ точны и полезны. Компания работает над улучшением качества информации, особенно в сфере здравоохранения, и реагирует на случаи искажения фактов.