OpenAI представила новую функцию прогнозирования возраста на базе ИИ для защиты пользователей в возрасте до 18 лет от нежелательного контента. Механизм анализирует поведение и данные учетной записи, чтобы автоматически применять контент-фильтры, предотвращая доступ к материалам сексуального характера.
В последние годы OpenAI подверглась резкой критике из-за потенциального воздействия ChatGPT на детей. С чат-ботом связывали ряд суицидов среди подростков, а кроме того, как и другие поставщики решений на базе искусственного интеллекта, OpenAI критиковали за то, что ChatGPT позволял обсуждать сексуальные темы с юными пользователями. В апреле прошлого года компанию заставили устранить сбой , который давал возможность чат-боту генерировать эротический контент для пользователей младше 18 лет.
Компания уже некоторое время работает над проблемой пользователей, не достигших совершеннолетия, и их новая функция «прогнозирование возраста» только дополняет уже действующие меры защиты. Согласно заявлению OpenAI, опубликованному во вторник в блоге , новая функция использует алгоритм искусственного интеллекта, который анализирует учетные записи пользователей на определенные «поведенческие и аккаунтные сигналы» с целью выявления юных пользователей.
Эти» сигналы», по словам компании, включают такие факторы, как заявленный возраст пользователя, срок действия учетной записи и время дня, когда учетная запись обычно активна. В компании уже действуют контент-фильтры, предназначенные для отсеивания обсуждений секса, насилия и других потенциально проблематичных тем для пользователей в возрасте до 18 лет. Если механизм прогнозирования возраста определяет учетную запись как лицо моложе 18 лет, эти фильтры применяются автоматически.
Если ошибочно было отнесено к категории несовершеннолетних, существует способ восстановить свой» взрослый » статус. Как сообщает OpenAI, для этого можно отправить селфи партнеру компании по верификации личности Persona.