Стремительное развитие искусственного интеллекта (ИИ) все больше напоминает новую технологическую гонку вооружений. По данным The Economist, с увеличением возможностей ИИ растет и обеспокоенность по поводу его безопасности. Некоторые разработчики предупреждают о сценариях, в которых мощные модели могут вести себя непредсказуемо, обходить установленные ограничения или использоваться в опасных целях.
Особое внимание привлекает конкуренция между США и Китаем. Вашингтон беспокоится о потере технологического лидерства, поскольку преимущества в области ИИ способны укрепить кибербезопасность, разведку и военные технологии. Примером служит конфликт в Украине, где даже небольшое преимущество в беспилотных технологиях может существенно повлиять на ход сражений.
В связи с этим лидеры крупнейших ИИ-компаний призывают замедлить развитие передовых моделей. 12 сентября Сэм Альтман и Илон Маск поддержали призыв председателя Anthropic Дарио Амодея «pace The frontier»— контролировать темпы прогресса передовых систем. При этом администрация Дональда Трампа акцентирует внимание на поддержании преимущества США над Китаем.
Чтобы полностью остановить гонку, необходимо договориться между Вашингтоном и Пекином, но главная сложность здесь — контроль. В отличие от ядерных испытаний, которые можно отследить через физические процессы, мощные ИИ-системы могут обучаться в обычных дата-центрах, и их истинную цель трудно выявить извне. Поэтому международные соглашения потребуют прозрачности, обмена информацией об опасных инцидентах и механизмов верификации.
The Economist считает, что полностью остановить технологическую конкуренцию будет крайне сложно. Тем не менее, страны могут согласиться на основные правила безопасности, защиту ИИ-лабораторий от кибератак и совместные исследования методов контроля и тестирования моделей. Основная задача — развивать технологии и одновременно предотвращать ситуации, в которых стремление к преимуществу создает неконтролируемые риски.