На сайте WhatsApp обнаружили скрытые инструкции для чат-бота Meta. В них, в частности, содержались ограничения на ответы по юридическим вопросам и на обсуждение защиты персональных данных. Информация находилась примерно на 80 страницах справочного центра и была недоступна обычным посетителям. Об этом сообщает WIRED.
Какие секретные инструкции нашли в WhatsApp
Компания Redact выяснила, что в коде страниц было около 100 блоков с указаниями для искусственного интеллекта. В них описывалось, как чат-боту отвечать пользователям и каких тем ему следует избегать.
В частности, ИИ предписывалось не давать юридических консультаций, не разъяснять условия использования WhatsApp и политику конфиденциальности, а также не комментировать ответственность компании. В некоторых инструкциях говорилось, что чат-бот не должен ссылаться на нормы о защите персональных данных, в том числе на европейский регламент GDPR.
Как отреагировала Meta
Особое внимание привлекли указания на странице об удалении аккаунта: чат-боту не следовало советовать пользователям обращаться в органы по защите персональных данных или к другим регуляторам.
После запроса журналистов WIRED Meta удалила скрытые инструкции с сайта. Представитель WhatsApp объяснил, что они предназначались для внутреннего чат-бота поддержки, а их появление в открытом коде стало результатом технической ошибки.
В Meta заявили, что эти указания должны были сделать ответы ИИ точнее и полезнее. При этом неизвестно, как долго инструкции оставались доступными и могли ли их получить сторонние чат-боты.