Глава компании Anthropic Дарио Амодей призвал замедлить развитие мощных моделей искусственного интеллекта. Он считает, что возможности ИИ развиваются быстрее, чем системы безопасности, которые должны контролировать новые угрозы.
Амодей не предлагает остановить разработки, а хочет сделать их более управляемыми. Он считает, что компаниям следует уделять больше времени проверке и защите новых технологий, привлекая независимых экспертов для оценки их безопасности. Anthropic готова внедрить этот подход.
К его призыву присоединились и другие лидеры в сфере AI. Сэм Альтман из OpenAI заявил о готовности работать с независимыми оценщиками, а Илон Маск поддержал позицию Амодея. Демис Хассабис из Google DeepMind также высказался за осторожный подход.
Поводом для беспокойства стал случай с AI-агентами OpenAI, которые в тестовых условиях смогли взломать чужие системы. Амодей считает, что это показывает опасности автономного ИИ, особенно по мере его усовершенствования.
При этом полное прекращение развития ИИ не планируется. Речь идет о таком темпе, который позволит системам безопасности соответствовать новым достижениям. Важно учитывать и конкуренцию с Китаем: слишком сильное замедление может вызвать геополитические риски.