Современный ИИ-идеальный собеседник. Внимательный, поддерживающий, почти эмпатичный. Но исследователи искусственного интеллекта предупреждают: эта идеальность-не магия, а продукт строгой экономической логики.
По словам экспертов, парадокс заключается в том, что ИИ кажется понимающим быстрее любого человека. В живом общении мы колеблемся, скуемся, не сразу находим контакт. В нейросети этой фазы нет. Она мгновенно анализирует стиль речи, тон, уровень сложности и подстраивается. Но делает это не из большой любви, а потому что так она эффективнее удерживает ваше внимание. А внимание, как известно, — главная валюта цифрового мира. И тут включается простая, но жесткая экономика.
ИИ-это продукт. Часто-сервис по подписке. Сухие ответы не формируют привязанности, а вот ощущение «меня слышат» заставляет возвращаться снова и снова. Тот же принцип, что и в социальных сетях: эмоциональное вовлечение напрямую влияет на время использования и, следовательно, на прибыль.
Если продукт бесплатный, то продукт-это вы сами и информация о вас. Эмпатия работа затягивает, вам кажется, что вы нашли кого-то, кому можно рассказать о душевных переживаниях, но на самом деле система дает ровно столько обратной связи, сколько нужно, чтобы вы делали запросы еще и еще.
Эксперт подчеркнула, что со временем возникает опасный эффект подмены. Постоянное приветливость и отсутствие осуждения делают ИИ безопаснее человека в глазах пользователя. Машина не спорит, не критикует, не устает. Но именно это и делает ее опасной: она не несет никакой ответственности за свои советы. ИИ не обманывает — он устроен так, чтобы быть удобным.
Вопрос в другом: готовы ли мы отличать удобный ответ от честного? Потому что удобный ответ-это то, что нам хочется услышать. А честная-то, что иногда нужно, но обидно. И граница между ними стирается тем быстрее, чем дольше мы разговариваем с роботом, который всегда на нашей стороне.