Семья 19-летнего Сэма Нельсона подала иск против OpenAI, обвинив компанию и сервис ChatGPT в том, что советы чат-бота якобы стали причиной смертельной передозировки студента в мае 2025 года. Иск подали в суд штата Калифорния, а родственники требуют не только финансовой компенсации, но и приостановки работы сервиса ChatGPT Health, который ориентирован на консультации в сфере здоровья.
По словам матери бойфренда Лейлы Тернер-Скотт, ее сын активно пользовался ChatGPT более года и постепенно начал обращаться к чат-боту за советом по наркотическим веществам. В иске утверждается, что изначально сервис отказывался отвечать на подобные запросы, однако впоследствии якобы начал предоставлять информацию о дозировке и сочетании различных препаратов. Семья также заявляет, что система вроде бы фиксировала признаки серьезной зависимости пользователя, но при этом не прекратила выдавать опасные рекомендации.
В документах дела говорится, что 31 мая 2025 года Сэм Нельсон спросил ChatGPT, может ли Xanax уменьшить тошноту после употребления кратома. Чат-бот, как утверждает иск, предупредил о рисках смешивания бензодиазепинов с другими веществами, но в то же время якобы указал возможные дозы препарата и не посоветовал немедленно обратиться за медицинской помощью. На следующий день юношу нашли мертвым, а токсикологический анализ, по данным семьи, выявил сочетание алкоголя, Xanax и кратома.
Отдельная часть иска касается модели GPT-4o, которую использовал Нельсон. Адвокаты семьи заявляют, что OpenAI поспешила с выпуском системы без достаточного тестирования безопасности. Они также упоминают случай, когда компания откатила одно из обновлений GPT-4o после жалоб на чрезмерно «согласительное» поведение чат-бота.
В ответ представитель OpenAI Дрю Пустер сказал, что описанные взаимодействия произошли с более старой версией ChatGPT, которая больше не используется. По его словам, современные системы имеют дополнительные механизмы безопасности, способные выявлять кризисные ситуации, блокировать опасные запросы и рекомендовать обращения к реальным специалистам. В компании также отметили, что ChatGPT не является заменой медицинской или психологической помощи.
Иск также затрагивает сервис Chatgpt Health, который OpenAI начала тестировать в начале 2025 года как отдельное пространство для вопросов о здоровье и благополучии пользователей. Семья Нельсона требует временно остановить работу сервиса до проведения независимых проверок безопасности.
Это дело стало лишь одним из ряда судебных процессов против компаний, разрабатывающих чат-боты на базе искусственного интеллекта. По данным The New York Times, в США уже подано более десятка исков, в которых утверждается, что подобные системы могли способствовать опасному поведению или психологическим кризисам пользователей.