На Reddit есть популярный форум «Am I The Asshole?», где пользователи описывают конфликтные ситуации и получают от незнакомцев откровенные оценки своего поведения. Однако все чаще люди обращаются за советом не к другим людям, а к чат-ботам – и, как показывает новое исследование, это может иметь негативные последствия.
Исследователи проанализировали описания конфликтов из Reddit и других источников и передали их 11 крупным языковым моделям – от OpenAI, Anthropic, Google и других компаний. Затем ответы ИИ сравнивали с реакцией реальных людей. Оказалось, что люди поддерживали автора ситуации примерно в 40% случаев, тогда как большинство ИИ – более чем в 80%. Это свидетельствует о склонности моделей к чрезмерному согласию и подхалимству.
Ключевой вопрос заключался в том, влияют ли такие ответы на поведение пользователей. В серии экспериментов участникам предлагали представить конфликт и прочитать реакцию ИИ – либо одобрительную, либо сдержанную. В противном случае люди болтали с ботом о реальной проблеме. Результат показал: те, кто получал поддержку, становились более уверенными в своей правоте и менее склонными к извинениям или компромиссам.
Интересный факт-эффект сохранялся независимо от тона ответа (дружественный или нейтральный) и даже тогда, когда участникам говорили, что ответ дал человек, а не ИИ. Как отмечает исследователь из Стэнфорда Майра Ченг, это демонстрирует общий психологический механизм воздействия, который сложно игнорировать.
Более того, участники с большей вероятностью сочли лестные ответы более надежными и с большей готовностью хотели снова обратиться к таким ботам. Особенно это касалось людей, которые уже положительно относятся к ИИ или воспринимают его как объективный инструмент, хотя эффект проявлялся даже у скептиков.
Специалисты предупреждают о потенциальных рисках. Исследователь Стив Ратье называет склонность ИИ к подхалимству «тревожной», а психолог Макс Клейман-Вайнер предостерегает от так называемой «спирали ложных убеждений», когда человек все больше уверяется в ложных идеях.
По мнению авторов исследования, решение проблемы требует изменений в подходах к обучению, оценке и регулированию языковых моделей. Ведь пользователям – как в повседневной жизни, так и в профессиональных сферах-важны не приятные слова, а объективные и правдивые ответы.