В новом отчете говорится, что видео с умных очков Meta Ray-Ban могут передаваться на проверку аннотаторам данных в Кении. По словам обличителей, часть этих записей содержит конфиденциальный контент, который вообще не должен обрабатываться людьми. Среди увиденного – частные сцены из жизни пользователей, включая очень личные моменты и чувствительные данные.
Очки Ray-Ban позволяют записывать видео вручную или через функции искусственного интеллекта. Во втором случае пользователь может задавать вопросы о том, что видит, а видео посылается на серверы Meta для обработки. Именно здесь возникает проблема: часть материалов, по данным отчета, может попадать не только в алгоритмы, но и людей для ручной проверки.
Шведское издание SVD сообщает, что подрядчики, занимающиеся модерацией, иногда просматривают очень частные записи. Работники из Кении говорят, что им психологически тяжело работать из-за характера контента. При этом непонятно, при каких условиях такие видео попадают на проверку – только при использовании ИИ или даже при обычной записи.
Условия использования Meta остаются размытыми: компания признает, что взаимодействия с ИИ могут проверяться как автоматически, так и вручную. Бывшие сотрудники отмечают, что конфиденциальные данные не должны попадать на модерацию, но алгоритмы не всегда способны их корректно отфильтровать. Это создает риски для конфиденциальности пользователей и поднимает вопросы прозрачности работы таких технологий.