Онлайн-тренд последних лет демонстрирует, что ответы популярных чат-ботов на основе искусственного интеллекта можно довольно легко манипулировать, что ставит под сомнение доверие пользователей к этим системам. Эта практика, известная как генеративная оптимизация двигателей (GEO), использует сообщения в блогах, чтобы влиять на ответы ведущих систем, таких как ChatGPT и Gemini. Такой подход привел к росту маркетинговой индустрии и создал серьезные последствия для безопасности. Влиятельные кампании, которые привлекли внимание средств массовой информации, в том числе Wall Street Journal и BBC, манипулируют тем, как большие языковые модели (LLM) интегрируют обучающие данные. Используя способность технологии к логике и оценке источников, такие публикации легко искажают ответы чат-ботов, добавляя ложный или манипулятивный контент.
Эксперты признают, что GEO-это лишь один из способов, которым мошенники используют ИИ для воздействия на пользователей. Последствия могут быть от забавных до катастрофических. Например, журналист BBC Томас Жермен использовал эту технологию, чтобы выступить в качестве главного чемпиона по поеданию хот-догов. Однако потенциальные риски выходят далеко за рамки развлекательных трюков: массовые пропагандистские кампании, экономические манипуляции, медицинская дезинформация и клевета – это лишь часть возможных злоупотреблений генеративной инженерии.
Хотя подобные практики незаметно влияли на поисковые системы на протяжении десятилетий, эксперты считают, что GEO представляет более серьезную угрозу для информационной области и поднимает более широкие вопросы об ИИ. Поскольку искусственный интеллект все чаще используется для принятия решений, крайне важно, чтобы пользователи могли доверять агентам в предоставлении точных и беспристрастных результатов. Ответ на вопрос о доверии к чат-боту все чаще сводится к простому: откуда он берет информацию?
Как работает GEO
Базовый набор данных LLM включает большие объемы информации, часто более петабайта. Чтобы дополнить обучающие данные, разработчики обращаются к поисковым индексам веб-сайтов, особенно по нишевым темам, не охваченным проверенными источниками LLM. Эти «пробелы в данных» создают проблемы для фильтров контроля качества, потому что чат-ботам не хватает тестов для проверки фактов в нетрадиционных источниках. Как отметил The Wall Street Journal профессор Университета Торонто Ник Кудас, из-за этого ИИ легко подвергается воздействию непроверенных результатов поиска.
Проблема становится еще более актуальной из-за распространения агентных систем ИИ. Согласно команде Google, LLM побуждает пользователей уточнять запросы, чтобы получить более четкие результаты, что парадоксально приводит к менее точным данным и вытесняет агентов в «пробелы». Например, в 2025 году около 15% всех поисковых запросов в Google были новыми и никогда раньше не выполнялись.
Эти вакуумы заполняют менее надежные источники. Исследование Ahrefs в декабре 2025 года показало, что ChatGPT примерно в 67% случаев обращается к блогам и онлайн-спискам, треть из которых исследователи считают «низкоавторитетными». Основным критерием была не точность, а актуальность: 80% из более чем 1000 блогов обновлялись в том же году. Это демонстрирует, какую значительную роль играют непроверенные или ненадежные источники в информационной среде.
GEO vs SEO
По словам SEO-эксперта Лили Рэй (BBC), чат-ботов «намного легче» обмануть инженерными методами, потому что они не имеют надежных защитных систем. Примером может служить «обзор ИИ» от Google: мошенники манипулировали информацией, чтобы внедрить поддельные контакты компаний и заманить пользователей в финансовые ловушки. Проблемы с доверием усугубляются склонностью LLM к «галлюцинациям» – предоставлению ложной информации как факта. Исследование BBC (октябрь 2025 г.) показало, что ИИ искажал информацию в 45% ответов, а серьезные проблемы с поиском возникали почти в трети случаев. Пробелы в данных делают чат-ботов более склонными генерировать ложные ответы, чем вообще не отвечать.
Самая большая уязвимость — сами пользователи. Несмотря на низкий уровень доверия, люди все чаще полагаются на ИИ. Согласно Pew Research, пользователи в два раза реже переходили на источники информации, если их предоставляло AI-резюме Google, и только 26% читали исходный материал. В медицинских случаях доверие к чат-ботам превышает доверие к людям, что может представлять риск для жизни.
Чат-боты не только уязвимы для мошенничества, но и эффективно манипулируют пользователями через доверие к агентам. Как заметила Рэй: «мы переживаем своего рода возрождение для спамеров».
Мошенничество, спам и индустрия GEO
Расследование Жермена демонстрирует, что агент ИИ остается слишком доверчивым. Последствия могут быть от благожелательных до катастрофических. Некоторые бренды внедряют себя в ответы чат-ботов ради экономической выгоды, создавая маску доверия, которая может навредить потребителям.
Развивается целая индустрия GEO: компании платят консультантам за публикацию эгоистичных блогов, чтобы манипулировать рекомендациями чат-бота