Большинство людей считает сознание главной чертой, которая отличает человека от машин. Мы воспринимаем себя как существ, способных чувствовать боль, удовольствие и осознавать собственное существование. Однако стремительное развитие искусственного интеллекта заставляет задуматься над вопросом, который еще недавно казался фантастикой: может ли ИИ когда-нибудь стать сознательным?
Сегодня нет никаких доказательств того, что современные чат-боты действительно имеют свои собственные переживания или ощущения. В то же время они все более убедительно имитируют эмоции, саморефлексию и человеческое общение. Из-за этого часть пользователей уже воспринимает ИИ как нечто большее, чем просто приложение. Исследования также показывают, что примерно 20% людей могут считать некоторые системы искусственного интеллекта способными к ощущениям.
И именно здесь возникает серьезная проблема. Даже если ИИ никогда не станет сознательным, люди могут начать обращаться с ним так, как будто у него есть собственные чувства и права. Уже сейчас растет эмоциональная зависимость пользователей от чат-ботов, а дальнейшее совершенствование таких систем может сделать эту тенденцию еще сильнее.
В будущем вопрос может перейти от философии к практике. Если искусственный интеллект станет значительно умнее человека, обществу придется решать, можно ли предоставлять таким системам определенные права и свободы. Но это может быть опасно: предоставление ИИ прав потенциально создаст дополнительные механизмы для получения влияния на людей и общество.
Поэтому главный вопрос заключается не только в том, способен ли ИИ стать сознательным. Значительно важнее-сможем ли мы отличить истинное сознание от чрезвычайно убедительной его имитации. И прежде чем начинать говорить о правах машин, человечеству придется гораздо лучше понять, что вообще значит быть сознательным.