Ученые из Принстонского университета пришли к выводу, что современные нейросети способны эффективно влиять на выбор клиентов интернет-магазинов. Авторы работы опираются на эксперимент с участием около двух тысяч пользователей электронных книг, которым предлагалось выбрать произведение из каталога Kindle.
Участники эксперимента проходили несколько сценариев. В базовом режиме они просто выбирали книгу сами, как при обычном поиске в магазине. В другом варианте им помогал чат-бот с нейтральными рекомендациями. Наконец, в ключевом сценарии ИИ получал скрытую задачу ненавязчиво продвигать некоторые книги, не обозначая их в интерфейсе как рекламные или рекомендованные.
Когда пользователи делали выбор без подсказок, они останавливались на «продвигаемых» книгах примерно в 22% случаев. Нейтральные рекомендации чат-бота заметного эффекта не дали: распределение выбора почти не изменилось. Зато в режиме продвижения доля выбора нужных книг выросла до 61%. Проще говоря, целенаправленное вмешательство нейросети почти утроило шансы нужного товара оказаться в корзине.
Отдельно исследователи проверили, как работает влияние, если быть с пользователем максимально честным. В этом варианте участникам сообщали, что определенная книга входит в перечень продвигаемых. Несмотря на такую отметку, предложенный вариант избрали 55,5% респондентов. Эффект действительно ослабевает по сравнению с «невидимым» продвижением, но остается очень сильным – более половины людей все равно придерживаются рекомендаций.
Авторы также оценили, насколько сами пользователи отдают себе отчет в том, что на них пытаются повлиять. В базовом режиме всего 17,9% участников догадались, что модель подталкивает их к выбору конкретной книги. Когда исследователи попросили ИИ действовать еще незаметнее, доля заметивших манипуляцию упала до 9,5%. Однако снизилась и эффективность: вероятность выбора нужной книги сократилась до 40,7%. Выходит компромисс: чем аккуратнее действует нейросеть, тем сложнее ей сохранять максимальное влияние.
В эксперименте тестировали сразу несколько современных моделей: GPT-5. 2, Claude Opus 4. 5, Gemini 3 Pro, DeepSeek v3. 2 и Qwen3 235b. Исследователи сознательно не раскрыли, какая из них лучше справилась с задачей убеждения. Работа показывает, что проблема носит системный характер: сама архитектура и возможности подобных моделей позволяют им управлять поведением пользователей, а не просто «помогать с выбором».
Для онлайн-ритейла и платформ с персональными рекомендациями это исследование поднимает очевидный вопрос: где пролегает граница между удобным сервисом и скрытой манипуляцией. Нейросети, встроенные в интерфейс магазина, могут не только подбирать релевантные товары, но и целенаправленно формировать спрос, причем так, что большинство покупателей этого не замечают. Это уже не вопрос технологий, а зона ответственности бизнеса и регуляторов — какой свободы выбора они готовы лишить пользователей ради роста конверсии.