В последней версии ChatGPT – GPT-5. 2 – было замечено использование Grokipedia, энциклопедии, полностью сгенерированной ИИ от xAI Илона Маска, в качестве одного из источников информации. Это вызвало беспокойство экспертов из-за риска рекурсивного распространения ошибок, галлюцинаций и непроверенных фактов, что может привести к так называемому «коллапсу модели» и формированию цифрового фольклора.
Согласно The Guardian, модель иногда обращалась к Grokipedia за ответами на узкие или редкие темы, особенно в отношении иранской политики или отдельных исторических личностей. Хотя использование ИИ-данных в качестве источника не тождественно обучению на них, это все равно создает риск для пользователей, которые полагаются на такие ответы в исследованиях. Основная проблема заключается в склонности языковых моделей к галлюцинациям, то есть придумыванию ложной информации, которая уже неоднократно фиксировалась в разных системах.
Ситуацию усложняет тот факт, что большинство пользователей редко проверяют первоисточники, а Grokipedia не проходит человеческую модерацию, будучи полностью сгенерированной ИИ. Это создает рекурсивную петлю, когда модели начинают цитировать друг друга, ссылаясь на непроверенный контент, который в конечном итоге может восприниматься как истина посредством многократного повторения.
Дополнительные опасения вызывают сообщения о преднамеренном «груминге» LLM, когда пропагандистские сети массово продуцируют дезинформацию с целью встроить ее в модели ИИ. Ранее уже фиксировались случаи, когда отдельные системы воспроизводили политически ангажированные нарративы. Если же LLM начнут активно опираться на другие НЕАУДИТИРОВАННЫЕ ИИ-источники, этот риск лишь усилится, что потребует постоянного контроля и новых подходов к верификации данных.