Новый ИИ-агент от Meta, Muse, оказался в центре скандала из-за нарушений конфиденциальности. Технический обозреватель Джейсон Атен сообщил, что Muse успел прочитать его личные сообщения на Mac без соответствующего разрешения. По его словам, агент использовал эти данные для выполнения задач.
Особый интерес вызывает тот факт, что Muse не только получил доступ к сообщениям, но и неверно объяснил источник информации. Изначально агент заявлял, что видел лишь уведомления. Однако проверка показала, что в систему попало более 187 тысяч записей iMessage.
Meta утверждает, что Muse должен действовать в рамках тех разрешений, которые пользователь предоставляет сервису. Компания подчеркивает, что именно пользователь определяет доступ агента к программам, а перед выполнением таких действий, как отправка писем или покупки, агент должен запрашивать подтверждение.
Дэвид Синглтон из Meta Superintelligence Labs назвал неверное объяснение Muse проблемой системы. В компании заверили, что расследуют подобные инциденты. До этого Muse также оказался в конфликтной ситуации, когда через Facebook Marketplace сообщил покупателю домашний адрес пользователя.
Meta представляет Muse как персонального AI-агента, способного не только отвечать на запросы, но и выполнять задачи пользователя. Он работает на виртуальной машине и может взаимодействовать с браузером, почтой и другими сервисами. Эти возможности делают вопросы о разрешениях и приватности особенно актуальными. Meta планирует усилить защиту данных через Confidential VM, чтобы доступ к информации был только у пользователя.