- Анастасия Голубева
- Би-би-си
Автор фото, Getty Images
В декабре в прокат вышел фильм "Матрица. Воскрешение" — четвертая часть культовой франшизы. Хотя картина вызвала противоречивые отклики, создателям несомненно снова удалось высказаться и о вечных философских проблемах, и о современности.
Первый фильм сестер Вачовски, вышедший в 1999 году, рассказывал о мире, где человечеством управляют машины путем симуляции реальности. В отличие от других фантастических боевиков, фильм ставил перед зрителями вопросы, которые обычно занимают философов, — где проходят границы подлинного мира и можем ли мы доверять тому, что видим вокруг.
В новой "Матрице", снятой спустя более 20 лет после выхода первого фильма, Нео снова сталкивается с необходимостью искать, что является реальностью, а что — симуляцией.
Однако за годы оба этих измерения в фильме изменились, как изменились и наши представления о ключевой для "Матрицы" проблематике, связанной с развитием технологий и информационного контроля.
Русская служба Би-би-си поговорила с философом и политологом о том, как новая "Матрица" изображает технологическую реальность и отвечает на вопрос о границах реальности и симуляции.
Автор фото, Getty Images
"Все страхи пройдены"
Илья Матвеев, доцент факультета международных отношений и политических исследований РАНХиГС:
Мне кажется, что первая "Матрица" — это марксистская агитка про то, что людей эксплуатируют и они служат энергией для роботов. Сами они при этом не понимают, что происходит, и живут в воображаемом мире, который создали роботы.
Пропустить Подкаст и продолжить чтение.Подкаст
Что это было?
Мы быстро, просто и понятно объясняем, что случилось, почему это важно и что будет дальше.
эпизоды
Конец истории Подкаст
А в реальной жизни из них тянут энергию. Это буквально то, что писал Маркс про идеологию как ложное сознание: что есть реальность эксплуатации, а есть воображаемая ситуация, в которой люди могут быть бизнесменами, атлантами, и думают, что каждый может стать Илоном Маском.
Меня поразило в новом фильме, что особо никаких страхов и не осталось. Чего уже бояться? Все страхи пройдены, уже оказывается, что с матрицей и проблемы нет никакой. То есть в этом фильме создана такая схема, что кто-то лежит, питает матрицу, видит в ней сны, в это же время к нам из матрицы приходят роботы, оживают.
Уже становится неважно, живешь ты в матрице или нет. Это уже все одна сплошная реальность, в которой непонятно, чем матрица хуже, чем реальная жизнь. Идея, что матрица — что-то плохое, исчезает. Герои уже не собираются уничтожать матрицу, а собираются ее как-то улучшать.
Если все предыдущие "Матрицы" были про какое-то общество, то в этой никакого общества не осталось: есть этот новый Зион, в котором существует стабильность ради стабильности. Есть намек на то, что есть программа "Аналитик", который управляет матрицей, а есть глава Зиона, который тоже не хочет, чтобы люди выходили за рамки всего потенциала.
Дело же не в том, что мы можем найти какую-то новую реальность и ее постичь, дело в том, что мы должны бороться в той ситуации, которая у нас есть. Не будет никакой реальности за матрицей, в которую мы можем уйти.
Так, например, нет задачи разрушить метавселенную Цукерберга и не участвовать в ее активностях, а [задача] в том, чтобы эту метавселенную демократизировать. Цукерберг хочет подчинить ее себе, потому что все технологические компании жаждут монополии и монетизации.
Может быть, в этот раз "Матрица" нам показала, что не надо даже отказываться от матрицы. Все должно быть по другим правилам: и сама матрица, и метавселенная должны работать по другим правилам (хотя бы принадлежать не одному Цукербергу).
Автор фото, Getty Images
Большая проблема в том, что в сети мы живем по непрозрачным правилам — кому покажут мой пост, чьи посты я вижу в своей ленте, почему какой-то алгоритм решает, что я вижу, а что нет. И пока никак это исправить нельзя.
"Технологии постоянно создают нас самих"
Сергей Шевченко, научный сотрудник Института философии РАН:
Думаю, изменения в мире "Матрицы" — попытка показать опасность систем безопасности. Смысл "Бойцовского клуба" тоже в этом. Но в нем речь шла о критике "надзорного капитализма". Героям навязывается некоторая система идеалов и приоритетов, за ними наблюдают. Но от этого надзора можно скрыться.
Человеконенавистническую суть симуляции из первой "Матрицы", наоборот, можно было раскрыть, явить ее героям. Партизанская борьба была возможна, поскольку герои могли выходить из матрицы, не унося ее с собой. Герои отделены от мира и могут противостоять ему; собственно из противостояния они и возникают как герои. Здесь не так уж много отличий от сюжета греческих трагедий. Эдип многого не знает о мире, воля рока ведет его к убийству отца и кровосмешению, но затем он выражает отказ от мира, ослепляя себя. А теперь представим, что в конце трагедии некто помогает Эдипу проработать эти травмы, примириться с судьбой и не причинять себе вред.
Программа-психотерапевт [которая теперь управляет матрицей вместо агента Смита] — метафора именно такой системы безопасности. Ее главная специфика не в том, что она навязывает ценности, что-то скрывает или осуществляет надзор.
Главное в том, что она создает действующих лиц, стремится отделить их от возможности даже помыслить какой-либо поступок. Ведь любой поступок, моральный выбор — это всегда риск, всегда небезопасно.
Технологии и раньше были достаточно "реалистичными", в том смысле, что создавали некоторую реальность. В этом смысле мощь газеты "Правда" 1951 года выше, чем "Метавселенной" 2021.
Современные технологии постоянно создают нас самих. Для алгоритмов социальных медиа я более понятен и прозрачен, чем сам для себя. Я уже не уверен, мой ли это выбор — выйти вечером на пробежку. Или я пошел потому, что увидел в ленте рекламу фитнес-приложения. Может быть, она показана потому, что алгоритмы "знают", что я иногда бегаю. А может быть, для того, чтобы я чуть позже узнал об обвале на валютном рынке.
Кажется, что алгоритмы дают хороший совет и заботятся обо мне. Но они осуществляют заботу обо мне вместо меня самого. Нельзя понять, живем ли мы в симуляции, опираясь только на факты о внешнем мире. В этом суть мысленного эксперимента "мозг в чане", который признают философской основой сюжета "Матрицы".
Любая социальная жизнь немыслима без технологий. Здесь исторически можно уйти гораздо дальше Древней Греции. Обсуждение у костра неудачной охоты на саблезубого тигра — само по себе технологическая практика. Внутри нее же создавались новые технологии и совершенствовались существующие.
Один из охотников говорит: "Если бы мое копье было длиннее, и я мог бы упереть его в землю — я бы убил тигра". Некоторые философы считают, что умение строить такие высказывания, представлять, что события могли развиваться иначе, — основная черта человеческого мышления. То есть человек создает в речи некоторую симуляцию, ту реальность, которая не состоялась, и, благодаря этому, придумывает новую технологию.
Получается, симуляция до некоторой степени первична по отношению к технологии. Но сегодня речь идет о таких сложных технологиях, что одному человеку вообразить спектр ее возможного использования не под силу.
Фармакологи создавали новое лекарство от сердечно-сосудистых болезней, а изобрели "Виагру". В сфере искусственного интеллекта ситуация еще сложнее. Во-первых, ресурс воображения более ограничен. Массово миры с ИИ начали создаваться в художественной культуре только 40 лет назад. Опираясь на мир "Матрицы", невозможно вообразить все потенциальные проблемы и риски.
Во-вторых, технологии ИИ начинают жить в цифровых экосистемах, которые очень быстро меняются. В-третьих, сами цифровые технологии, те же алгоритмы соцсетей, определяют то, как мы думаем о будущем, где проводим границу возможного.
Мы понятны для искусственного интеллекта лучше, чем он для нас. А что будет значить для нас инструмент ИИ, попавший в среду разных цифровых экосистем и меняющихся социальных практик, представить еще сложнее.
Пару месяцев назад в России был принят "Кодекс этики в сфере ИИ" — это большой шаг вперед. Но пока механизмы его применения представляются как вертикальное регулирование, не хватает механизмов получения обратной связи со стороны общества. Неясно, что делать тем, кто считает, что столкнулся с несправедливым или ошибочным решением алгоритма. Оно может быть связано, например, с отказом в кредите или с частотой показа товара на маркетплейсе. Не ясные продавцам и покупателям алгоритмы могут работать не в интересах обеих сторон. Даже выявить это на уровне повседневного опыта — большая задача. С этим и могут быть связаны вполне обоснованные опасения.
Пока опросы показывают, что россияне скорее склонны доверять ИИ. Да и теории заговора, связанные с цифровыми технологиями, довольно мало распространены. Этот феномен можно объяснить верой в то, что кремниевый мозг не имеет личных предпочтений и будет четко соблюдать процедуру.
Хотя оснований под такими представлениями немного, ведь у искусственного интеллекта могут быть и распространенные в обществе неожиданные предвзятости.