Чат-бот ChatGPT начал рекомендовать пользователям ссылки на поддельные интернет-магазины и даже упоминать товары, которых на самом деле не существует. О проблеме сообщило издание The Guardian со ссылкой на сервис выявления мошенничества Ask Silver.
По словам исследователей, пользователи получали ссылки на сайты, имитирующие известные бренды, в том числе производителя обуви и аксессуаров Russell & Bromley и сеть товаров для дома Dunelm. После оформления заказов на таких ресурсах люди теряли деньги, а их платежные данные попадали к мошенникам.
Эксперты объясняют проблему так называемым «отравлением искусственного интеллекта». Злоумышленники создают фейковые сайты и массово публикуют ложную информацию в сети. После этого крупные языковые модели могут воспринимать такие ресурсы как законные и рекомендовать их пользователям. Особенно уязвимыми становятся ситуации, когда известный бренд меняет структуру бизнеса или прекращает работу отдельного сайта.
Специалисты напоминают, что даже рекомендации ИИ нуждаются в проверке. Признаками мошенничества часто являются слишком большие скидки, подозрительные адреса сайтов, некорректные контактные данные и просьбы перевести средства необычными способами. Поэтому перед покупкой стоит самостоятельно проверять официальный сайт компании через поисковые системы или другие надежные источники.
В OpenAI уже удалили часть ссылок, на которые поступали жалобы, однако эксперты считают, что проблема будет оставаться актуальной. С ростом популярности AI-сервисов мошенники все активнее используют новые инструменты для поиска потенциальных жертв, поэтому пользователям стоит относиться к любым рекомендациям критически.