Meta решила сменить работу своего чат-бота после критики из-за слишком личных подсказок. Поводом стала история пользовательницы Instagram Калли Робинс. После публикации видео с дочерью Meta AI предложил ей вопросы вроде того, кто именно является ребенком в ролике. Когда пользователь нажал на подсказку, ИИ начал использовать информацию из ее предыдущих постов в Facebook и Instagram.
Система также смогла найти фотографии детей, информацию об их возрасте и другие личные детали. По словам Робинс, Meta AI даже показала изображения, которые она, как она утверждает, удалила несколько лет назад. После этого возникли вопросы относительно того, насколько много личной информации искусственный интеллект может использовать при формировании своих ответов и рекомендаций.
В Meta признали, что на этот раз функция сработала неправильно. Представительница компании Дина Эль-Кассаби заявила, что система «промахнулась» и не должна была предлагать пользовательнице столь личные вопросы. По ее словам, Meta уже внесла изменения, чтобы ИИ больше не создавал подобные подсказки на темы, которые могут касаться частной жизни человека.
В компании объяснили, что ответы Meta AI могут формироваться на основе информации, к которой сам пользователь уже имеет доступ. В этом случае система могла использовать видео и сообщения, в которых Робинс ранее упоминала имена своих детей. Meta AI сейчас работает внутри Facebook, Instagram, WhatsApp и Messenger, поэтому вопрос приватности для такого сервиса становится еще более важным.