В сфере искусственного интеллекта усиливаются обсуждения о необходимом замедлении развития самых мощных моделей. Генеральный директор Anthropic Дагио Амодеи предложил план, предполагающий контролируемое развитие Frontier AI, а директор NVIDIA Дженсен Хуанг высказался против масштабного замедления и усиленного регулирования.
Тем временем руководители Anthropic, OpenAI и других компаний заявляют о необходимости общих норм безопасности. Среди предложений — привлечение независимых экспертов, которые работали бы внутри компаний, контролируя безопасность разработок и информируя о серьезных инцидентах.
Однако важно понять, действительно ли это приведет к замедлению развития ИИ или лишь добавит контроль без изменения темпов разработки.
### Что предлагается
Аводеи предлагает не остановить развитие ИИ, а создать механизмы для лучшего контроля рисков при разработке мощных моделей. Одно из предложений — независимые эксперты, которые смогут проверять системы безопасности компаний, анализировать инциденты и поведение моделей.
OpenAI уже выразила готовность реализовать такой подход и сотрудничает с Anthropic и Google в вопросах безопасности ИИ. Однако пока нет конкретных деталей: каковы полномочия этих экспертов и какую информацию они смогут обнародовать без согласования с компаниями?
### Независимость проверок: насколько это реально?
Здесь есть проблема. Если независимые эксперты работают по контракту с разрабатывающей компании, возникает сомнение в их объективности. Исследователи предлагают дать таким организациям доступ к промежуточным версиям и процессу обучения моделей, что позволило бы выявлять опасное поведение на ранних стадиях.
Примером служит случай с Hugging Face, где проверка длилась всего неделю, что ограничило выводы исследователей. Аналогично с тестированием GPT-6 Astra: три дня исследования не позволили сделать окончательные выводы.
### Необходимость регулирования
Сторонники жесткого контроля считают, что одних договоренностей может быть недостаточно. Компания может сегодня разрешить независимый контроль, но изменить подход под давлением. Поэтому некоторые эксперты выступают за законодательное регулирование. В США и ЕС уже разрабатываются соответствующие механизмы, но они пока не охватывают все предложения Амодеи.
### Не все компании согласны
Хотя идея безопасности находит поддержку, не все AI-компании приняли предложенный подход. Meta, SpaceXAI и Google DeepMind пока не внедрили независимых оценщиков. Глава Google DeepMind Демис Хассабис предложил создать отраслевой орган по стандартизации и независимому тестированию моделей.
Таким образом, дискуссия о правилах и безопасности началась, но пока меры больше напоминают контроль, чем договоренность о замедлении развития ИИ. Остается вопрос: готовы ли компании, вкладывающие миллиарды в развитие, ограничить свои разработки ради безопасности, если их конкуренты продолжают двигаться вперед?