Согласно новому исследованию, опубликованному в Nature Medicine, чат-бот ChatGPT Health от OpenAI неоднократно не распознавал серьезные медицинские состояния, требующие немедленной помощи.
Исследователи во главе с Ашвином Рамасвами создали 60 реалистичных сценариев с разными симптомами – от легких до критических. Их оценивали врачи по клиническим стандартам, после чего сравнивали с рекомендациями ИИ.
В 51,6% случаев, когда пациентов нужно было срочно госпитализировать, бот советовал оставаться дома или обратиться к врачу позже. Лучше всего система справлялась с очевидными экстренными ситуациями, но хуже – со сложными симптомами, которые могут быстро стать опасными.
В 64,8% безопасных случаев ChatGPT Health, напротив, рекомендовал немедленную помощь. В OpenAI заявили, что подобные результаты не полностью отражают реальное использование сервиса и что модель постоянно совершенствуется.