Новый ИИ-агент Meta Muse способен собирать и упорядочивать данные не только о своем пользователе, но и о людях вокруг него. Исследователи выяснили, что система создает и регулярно обновляет отдельные страницы о знакомых пользователя, даже если те не используют Muse. Об этом сообщает gizmodo.com.
По информации из системных инструкций, такие профили могут содержать имя, характер связи с пользователем, важные даты и текущие дела. Например, Muse может запоминать предстоящий переезд, финансовые планы, дни рождения или годовщины. Данные регулярно проверяются и пополняются.
Сложность в том, что вместе с данными пользователя Muse может собирать информацию о других людях без их согласия. Если ИИ имеет доступ к электронной почте и сообщениям, он может анализировать имена, номера телефонов и детали из переписки. Эксперты по приватности считают это одной из главных проблем нового ИИ-агента.
Meta утверждает, что Muse работает в рамках отдельной защищенной виртуальной машины. Компания заявляет, что пользователи сами решают, какие сервисы доступны агенту, и перед важными действиями, такими как отправка письма или покупка, Muse запрашивает разрешение. Также сообщается, что данные и коммуникации не передаются рекламным системам Meta.
Тем не менее, вокруг Muse возникают серьезные вопросы касательно конфиденциальности. В прошлом были случаи, когда агент случайно делился личной информацией пользователей с другими людьми, например, их домашними адресами. Это подчеркивает основную проблему персональных ИИ-агентов: чем больше информации они собирают о пользователе и его окружении, тем более полезными могут быть, но также повышаются риски утечек и злоупотреблений данными.