Автор фото, ANTHONY WALLACE/AFP via Getty Images
Соучредитель Anthropic Джек Кларк призвал замедление развития искусственного интеллекта (ШИ), и предупредил, что технология приближается к точке, где она сможет развиваться без участия человека.
«Хотелось бы иметь возможность снять ногу с газа и нажать на тормоз, — сказал Кларк BBC Newsnight. — Сейчас все выглядит так, будто у индустрии ИИ есть педаль газа, но нет тормозов».
Он подчеркнул, что люди должны контролировать системы ИИ, которые станут лишь более мощными и будут иметь более широкое влияние на общество через государственную политику.
«Миру нужно немного подумать, и нам нужно в конце концов разработать новые правила, которые позволят нам быть уверенными в этих системах», — заявил основатель одного из лидеров в области разработки систем ИИ.
Популярный чат-бот Anthropic под названием Claude уже работает на коде, 80% которого система написала сама. По словам Кларка, достичь 100% возможно в течение всего двух лет, и это «будет иметь огромные последствия».
Кларк не уточнил, как можно создать «педаль тормоза» для исследований и разработок в области искусственного интеллекта, но провел параллель между ИИ, нефтяным бумом и олигархами начала прошлого столетия.
«Реакцией общества было разработать разумную политическую и регуляторную базу, которая дала бы людям уверенность в нефти и преимуществах, которые нефть может принести миру, и означала бы, что вам не придется беспокоиться о личных качествах людей, управляющих компаниями, — сказал Кларк. — Мы пришли к тому же».
«Я волнуюсь за своих детей»
С момента своего основания генеральным директором Дарио Амодеи, Кларком и несколькими другими руководителями, Anthropic позиционирует себя как компанию, которая откровенна относительно потенциальных рисков, связанных с искусственным интеллектом. Компания даже вступила в публичный спор с министерством обороны США из-за опасений, что разработанные ею инструменты искусственного интеллекта будут использованы для массового наблюдения за американцами и автономной войной.
«Я волнуюсь за своих детей, если мы как общество не проведем серьезного разговора о том, что означают последствия дальнейшего развития искусственного интеллекта, — сказал Кларк Newsnight. — Есть потенциально большие преимущества. Есть также риски».
Кларк добавил, что одним из рисков является последствия для экономики, поскольку существуют опасения, что технологии искусственного интеллекта, такие как «агенты» — по сути, отдельные боты на базе искусственного интеллекта, выполняющие рутинные задачи в определенной степени автономно, могут взять на себя выполнение определенных людей.
В течение последнего года крупные технологические компании уже провели массовые увольнения, часто ссылаясь на растущую способность инструментов искусственного интеллекта выполнять работу сотен или даже тысяч инженеров-программистов.
Автор фото, Getty Images
Кларк сказал, что люди, более креативные и имеющие больше лучших идей, на самом деле могут иметь преимущество перед технологиями искусственного интеллекта.
«Существуют открытые вопросы относительно того, могут ли системы искусственного интеллекта быть действительно креативными… Пока нет настоящих доказательств этого, – добавил он. – В Anthropic мы сейчас ограничены большей способностью генерировать хорошие идеи, чем способностью заниматься инженерией, чтобы воплотить эти идеи в реальность».
Тем не менее, Кларк посоветовал молодому человеку, который может чувствовать, что экономика, построенная на искусственном интеллекте, не имеет для него места, «развить хобби» и получить гуманитарное образование.
«Люди, которые креативны и могут мыслить широко, люди, которые много читают, люди, которые имеют какие-то интересы, – это те, кто получит от этого наибольшую пользу, – сказал Кларк. – Развивайте любознательность, и она окупится тем, как вы можете использовать эту технологию».
Обращение внимания или желание предупредить мир?
Несмотря на эту позицию своего основателя, на этой неделе Anthropic приветствовала исполнительный указ президента США Дональда Трампа по искусственному интеллекту, который имел относительно свободные указания по компаниям. В частности, там нет требования к компаниям, разрабатывающим системы ИИ, проходить правительственные испытания на безопасность – это остается добровольным делом. Крупные компании-разработчики ИИ, стремящиеся к развитию технологии, включая Anthropic, OpenAI и Google, также не заявили, что приостановят собственные исследования.
Как бизнес Anthropic так быстро вырос с момента своего основания пять лет назад, что готовится дебютировать на публичном фондовом рынке.
Это может стать одним из первых публичных листингов (выход на фондовый рынок и выпуск акций – Ред.) новой компании, разрабатывающей технологии ИИ, и одним из самых ценных листингов акций в истории, поскольку частные инвесторы оценивают стоимость Anthropic почти в 1 трлн долларов.
Говоря с BBC, Кларк заверил, что мотивация Anthropic публично обсуждать возрастающие возможности технологии искусственного интеллекта не состоит в том, чтобы еще больше улучшить свою репутацию среди платежеспособных клиентов.
Он просто хочет «рассказать миру, что мы видим внутри этих компаний с этой необычной технологией».