Компании OpenAI и Anthropic усиливают контроль за использованием своих чат-ботов несовершеннолетними. OpenAI обновила правила работы ChatGPT с пользователями в возрасте 13-17 лет, а Anthropic разрабатывает новые способы обнаружения и блокировки лиц в возрасте до 18 лет.
OpenAI обновила документ, определяющий поведение ChatGPT, добавив правила для подростков. Главный принцип-безопасность подростков должна быть важнее других целей. Если интересы пользователя могут повредить его безопасности, чат-бот предложит более безопасные варианты и ограничит ответы.
Также ChatGPT должен поощрять подростков искать поддержку в реальной жизни, поддерживать общение офлайн и четко объяснять правила взаимодействия с алгоритмом. Чат-бот должен общаться с подростками уважительно и дружелюбно, но не как со взрослыми.
Эти изменения связаны с давлением со стороны законодателей из-за возможного влияния ИИ на психическое здоровье. ранее OpenAI уже внедрила родительский контроль и запретила обсуждение темы самоубийства с подростками. В компании считают, что новые правила сделают ChatGPT более безопасным и помогут подросткам обращаться за помощью в экстренные службы или кризисные центры в сложных ситуациях. Также OpenAI готовит модель для автоматического определения возраста пользователей, которая будет включать защитные ограничения для лиц до 18 лет.
Anthropic, со своей стороны, вообще не позволяет несовершеннолетним использовать чат-бот Claude. Компания работает над системой, которая сможет определять возраст пользователя по языковым признакам и блокировать аккаунты подростков. Кроме того, Клауда учат правильно реагировать на разговоры о членовредительстве или самоубийстве.