Автор фото, Getty Images
Развитие искусственного интеллекта усугубляет страхи относительно будущего — согласно опросам, его уже боится более половины человечества.
После того как ИИ «вышел из-под контроля» сначала в Anthropic, а затем и в OpenAI, вопрос безопасности стал ключевым. Эксперты соглашаются, что наибольшую угрозу в случае «апокалипсиса ИИ» представляют именно разрушительные последствия неконтролируемого использования искусственного интеллекта.
Вероятность такого сценария оценивается сейчас в 10%. Если же развитие ИИ не ограничивать и не регулировать, то этот показатель превышает 20%.
Об этом свидетельствуют результаты опроса 272 экспертов по искусственному интеллекту, проведенному лабораторией Массачусетского технологического института (MIT) – одного из ведущих технических университетов.
Эксперты составили рейтинг по 24 рискам и определили для каждого из них вероятность «катастрофического» развития событий до 2030 года. Под катастрофическими последствиями они подразумевали, например, гибель свыше 1 млн человек, экономический ущерб свыше 100 млрд долларов или нематериальные последствия цивилизационного масштаба — такие как крах демократических норм или права на конфиденциальность.
Один из самых обсуждаемых страхов – угроза массовой безработицы – не вошел в тройку главных рисков и занял четвертое место по тяжести возможных последствий. Вместо этого первое место досталось сценарию в духе «Терминатора».
Самым опасным, по мнению экспертов, является искусственный интеллект, который выходит из-под контроля и самостоятельно учится наносить человечеству масштабный ущерб.
Это может произойти из-за технических сбоев, действий злоумышленников или из-за «несоответствия целей ИИ интересам человека» — именно так главный риск описывают в MIT.
Какой именно вред может нанести такой ИИ?
Речь идет об обмане, разработке оружия, манипулировании людьми, вмешательстве в политику, кибератаки, а также создании более совершенных систем искусственного интеллекта — вплоть до осознания ими собственной среды функционирования и способности к самораспространению.
Кто отвечает за это
Второе и третье места в рейтинге апокалиптических рисков также связаны с первым.
Речь идет о разработке оружия с помощью ИИ — как для кибератак, так и для массового уничтожения людей, а также о «ШИ-вертикали власти» — концентрации ресурсов в руках узкого круга людей, имеющих доступ к передовым технологиям, и углублении социального и экономического неравенства.
Все это может привести к социальным потрясениям и политическим кризисам. Опросы в разных странах мира свидетельствуют о том, что опасения таких последствий с каждым годом только растут.
Автор фото, EPA
Например, по данным последнего глобального исследования Stanford AI Index, к 2025 году доля респондентов, которых ИИ «настораживает», выросла до 52% по сравнению с 39% в 2022 году. В то же время количество тех, кого вдохновляет развитие искусственного интеллекта, почти не изменилось — 53–54%.
Однако все большее беспокойство общества не приводит к введению каких-либо существенных ограничений для ИИ, отмечают авторы исследования MIT.
Ведь решения принимают те, кто получает выгоду от развития искусственного интеллекта, тогда как люди, чья жизнь он может больше изменить или ухудшить, практически не оказывают влияния на этот процесс.
«Разрыв между уязвимостью и ответственностью – не новое явление. Например, от авиационных и техногенных катастроф или от некачественных лекарственных средств прежде всего страдает население, тогда как ответственность за предотвращение таких последствий несут разработчики, производители и регуляторы», — пишут авторы исследования.
«Впрочем, в этих отраслях действуют строгие стандарты, механизмы контроля и юридической ответственности. В сфере искусственного интеллекта аналогичные механизмы либо только начинают формироваться, либо вообще отсутствуют. В результате наиболее уязвимые группы населения остаются почти беззащитными, а отвечающие за их защиту не имеют достаточных стимулов».
Где тогда работать?
Не все отрасли одинаково уязвимы к рискам, связанным с искусственным интеллектом.
Те же эксперты оценили уровень уязвимости 14 отраслей экономики к каждому из 24 определенных рисков. Худшие результаты продемонстрировали сектор информационных технологий и сфера национальной безопасности.
Информационный сектор больше всего страдает от дезинформации, манипулирования общественным мнением и вмешательства в частную жизнь. Национальная безопасность особенно уязвима к кибератакам и появлению новых видов вооружения.
Подобные оценки получил и финансовый сектор. С одной стороны, ИИ усложняет борьбу с мошенничеством и манипуляциями на рынке, а с другой – все активнее внедряется на всех уровнях, что повышает риск серьезных последствий при сбоях в его работе.
Наименее уязвимыми, по результатам анализа, оказались отрасли, где искусственный интеллект пока используется не столь активно — гостинично-ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность, а также сфера культуры и развлечений.