Бывший сотрудник OpenAI Даниэль Кокотайло признал, что развитие искусственного интеллекта происходит медленнее, чем он прогнозировал ранее. Из-за этого, по его мнению, отодвигаются и возможные серьезные риски для человечества.
Кокотайло отмечает, что современному ИИ требуется больше времени, чтобы достичь полностью автономного кодирования. Раньше именно эта способность считалась ключевым шагом к появлению суперинтеллекта, но теперь такие ожидания перенеслись на более поздний период.
В апреле он опубликовал сценарий «ИИ 202»», где описывал быстрое и неконтролируемое развитие технологий, что могло бы привести к катастрофическим последствиям. Текст вызвал активные дискуссии: одни политики и эксперты восприняли его серьезно, другие назвали скорее научной фантастикой.
После запуска ChatGPT в 2022 году многие прогнозы AGI – общего искусственного интеллекта – стали значительно более оптимистичными и стали все чаще говорить не о десятилетиях, а о нескольких годах. Однако в настоящее время Кокотайло признает, что оценка 2027 года была слишком оптимистичной.
Другие исследователи также пересматривают свои прогнозы. Они отмечают, что развитие ИИ подавляет сложность реального мира и нестабильность результатов современных моделей. Кроме того, сам термин AGI постепенно теряет четкое значение, ведь современные системы уже выполняют очень широкий спектр задач.
В обновленных оценках авторы сценария считают, что автономное кодирование станет возможным лишь в начале 2030 – х годов, а суперинтеллект может появиться около 2034 года-без апокалиптических прогнозов.
Несмотря на это, крупные технологические компании остаются амбициозными. Например, OpenAI заявляет, что стремится к созданию автоматизированного ИИ-исследователя к 2028 году, хотя признает, что успех не гарантирован. В целом эксперты сходятся во мнении: чем дальше развивается ИИ, тем яснее становится, что реальный мир намного сложнее, чем сценарии из научной фантастики.