Компания Anthropic в проспекте IPO предупредила инвесторов, что ее технологии могут представлять «угрозу существованию человечества», пишет газета Financial Times.
Почти треть объемного документа, распространенного среди узкого круга партнеров, Anthropic посвятила подробному описанию «факторов риска», в частности способности ее совершенствующихся моделей прибегать к манипуляциям, шантажу и другим формам непредсказуемого поведения.
Компания также уведомила инвесторов о чрезвычайно высокой концентрации своей клиентской базы: в прошлом году почти четверть ее выручки пришлась лишь на двух клиентов, сообщили FT источники, которые ознакомились с документом.
Все это затрудняет для инвесторов оценку одной из ведущих американских компаний в сфере искусственного интеллекта, пишет газета. В проспекте IPO разработчик Claude также сообщил, что в ближайшие годы планирует потратить $518 млрд на выполнение обязательств по облачным услугам, мощностям и инфраструктуре, необходимых для поддержания его стремительного роста.
Во время майского раунда финансирования Anthropic была оценена в $965 млрд, и ее акционеры считают, что она сможет разместить акции из расчета оценки свыше $2 трлн, объясняет свой оптимизм исключительно высокими темпами роста компании.
Однако опасения по поводу рисков, которые несет в себе развитие ИИ, могут сдержать этот оптимизм, пишет FT.
На прошлой неделе председатель Anthropic Дарио Амодеи заявил на заседании Совета Безопасности ООН, что ИИ может представлять угрозу для человечества, назвав его «важнейшим вопросом глобальной безопасности, стоящим сегодня перед миром».
Ранее в этом месяце Амодеи выступил с публичным призывом обуздать темпы разработки передовых моделей ИИ. Председатель OpenAI Сэм Альтман, а также Илон Маск, поддержали предложение Амодеи о сотрудничестве в сфере с целью замедления разработок и усиления мер безопасности.
Согласно проспекту IPO, в прошлом году Anthropic зафиксировала операционный убыток в размере более $8 млрд на фоне высоких затрат на вычислительные мощности. Ее годовой доход вырос почти в 12 раз, составив $4,6 млрд. Операционные расходы компании в прошлом году составили почти $13 млрд.
Во втором квартале текущего года Anthropic получила выручку в размере $11,5 млрд.