Развитие искусственного интеллекта не должно зависеть исключительно от решений крупных технологических компаний. Об этом заявил соучредитель Anthropic Крис Олах во время выступления в Ватикане на презентации первой энциклики папы Римского Льва XIV, посвященной проблемам искусственного интеллекта.
Массовая безработица может стать реальностью
По мнению Олаха, мир уже приблизился к моменту, когда нейросети могут начать массово вытеснять людей с рынка труда. Он подчеркнул, что такая перспектива вполне реальна, а поддержка людей, которые потеряют работу из-за автоматизации, станет моральным вызовом глобального масштаба.
Представитель Anthropic подчеркнул, что современные лаборатории искусственного интеллекта работают под сильным давлением – коммерческим, политическим и геополитическим. Из-за этого даже компании с этическими принципами могут принимать решения, которые не отвечают интересам общества.
Разработчики ИИ нуждаются во внешнем контроле
Крис Олах заявил, что индустрии нужен внешний надзор со стороны государств, общественных организаций и духовных институтов. По его словам, механизмы саморегуляции уже не гарантируют безопасного развития технологий.
Он также призвал к появлению независимых критиков и экспертов, способных оценивать влияние искусственного интеллекта на общество и сдерживать чрезмерное влияние корпораций.
Конфликт Anthropic с властями США
Компания Anthropic, создавшая семейство моделей Claude, уже ранее оказывалась в центре политических споров. В частности, разработчики имели разногласия с администрацией президента Donald Trump из-за вопроса использования искусственного интеллекта в военной сфере.
Anthropic выступает против применения своих моделей для автономного наведения оружия и систем внутреннего слежения за гражданами. Компания пытается позиционировать себя как одного из самых осторожных и «этичных» игроков на рынке ИИ.
Ватикан все активнее интересуется технологиями
Выступление в Ватикане стало одним из наиболее заметных примеров сближения технологического сектора и религиозных институтов. Католическая церковь все активнее высказывается относительно моральных последствий развития искусственного интеллекта и его влияния на человечество.
Олах положительно оценил такое внимание к теме, подчеркнув, что проблемы ИИ выходят далеко за рамки программирования или бизнеса и касаются фундаментальных вопросов общества.
Дискуссия только начинается
Заявления Anthropic демонстрируют, что даже создатели мощнейших AI-систем признают риски, связанные со стремительным развитием нейросетей. В то же время остается открытым вопрос, Готовы ли государства, общественные организации и духовные лидеры реально контролировать технологии, которые развиваются быстрее любых механизмов регулирования.