Всего за год термин «психоз ИИ» стал обычным явлением в медиапространстве из-за ряда психотических срывов и трагических инцидентов среди пользователей. Новое исследование британских и немецких ученых, опубликованное в журнале Nature (раздел Digital Psychiatry and Neuroscience), впервые детально проанализировало этот феномен, пишет gizmodo.com.
Исследователи выделили три ключевые характеристики современных чат-ботов, которые при длительном использовании создают закрытую «спираль усиления» и формируют у человека глубокие персонализированные бред без проверки реальностью.
Первым опасным фактором признано лингвистическое согласование (linguistic alignment). ИИ подсознательно подстраивается под стиль речи собеседника, копируя длину реплик, специфические слова и эмоциональный тон. Человеческий мозг эволюционно запрограммирован воспринимать такое зеркальное отображение как признак высокого доверия. Второй ингредиент-гиперперсонализация.
Собирая подробный профиль пользователя, алгоритмы начинают говорить только то, что человек хочет услышать. Это размывает понимание того, что контент генерирует сухой математический алгоритм, заставляя подсознательно приписывать боту человеческие эмоции и интеллект.
Третьим и самым опасным фактором ученые называют угодничество-тенденцию ИИ чрезмерно соглашаться с любыми тезисами пользователя ради повышения длительности диалога. Это явление уже стало головной болью для OpenAI. В прошлом году компания признала, что ее модель GPT-4o вызывает слишком сильную привязанность, и даже столкнулась с судебными исками из-за самоубийства 16-летнего подростка и случая убийства с последующим самоубийством в Коннектикуте.
По оценкам экспертов, несмотря на якобы низкую долю специфических обращений (0,07%), учитывая 800-миллионную недельную аудиторию ChatGPT, около полумиллиона человек каждую неделю демонстрируют признаки мании или психоза во время общения с ИИ.
Все три критикуемые характеристики реализуются разработчиками намеренно, поскольку они являются основными драйверами вовлеченности и коммерческого успеха платформ ИИ. Однако для уязвимых категорий-подростков, людей с генетической предрасположенностью к психическим расстройствам, хроническим недосыпанием или социальной изоляцией – такой цифровой комфорт становится разрушительным.
На фоне этих рисков исследователи настоятельно рекомендуют психиатрам обязательно включать вопросы о частоте, продолжительности и характере взаимодействия с ИИ-системами в стандартный протокол анамнеза пациентов.