OpenAI призывает к созданию международной организации, которая будет контролировать развитие искусственного интеллекта и, при необходимости, может координировать замедление его прогресса. В компании отмечают, что темпы развития ИИ должны согласовываться со способностью общества обеспечивать безопасность и стабильность.
В новом блоге, подписанном генеральным директором OpenAI Сэмом Альтманом и главным научным сотрудником Якубом Пачоцким, отмечается, что системы ИИ все чаще могут участвовать в собственном совершенствовании. В долгосрочной перспективе это может превратить их в «исследователей ИИ», которые ускорят создание новых моделей.
Подобную позицию ранее озвучивала компания Anthropic, которая предупреждала о рисках «рекурсивного самосовершенствования» — сценария, когда ИИ начинает разрабатывать еще более мощные версии самого себя. Это, по мнению экспертов, может значительно ускорить прогресс, но в то же время затруднить контроль над технологией.
Идея возможного «взрыва интеллекта» и потери контроля над развитием ИИ не нова — еще в 2023 году ряд известных исследователей и предпринимателей призвал к временной паузе в создании самых мощных моделей. Среди подписантов был и Илон Маск, который неоднократно предупреждал о рисках неконтролируемого развития ИИ.
OpenAI также заявляет, что создание искусственного общего интеллекта (AGI) остается одной из ключевых целей компании. В то же время в отрасли до сих пор нет единого определения этого термина, а дискуссии о его реальной досягаемости продолжаются. На этом фоне призывы к международному регулированию выглядят как попытка опередить потенциальные риски будущего технологического скачка.