Компания Anthropic представила американским законодателям законопроект, который устанавливает правила государственного надзора за самыми мощными системами искусственного интеллекта. Согласно инициативе, власти смогут потребовать приостановить запуск или эксплуатацию модели только при наличии реальной угрозы и высокой вероятности массовой гибели людей, тяжёлых травм более чем у 50 человек или ущерба свыше миллиарда долларов. Об этом сообщает Tom’s Hardware.
Предложенные нормы касаются трёх основных рисков: создания биологического оружия, масштабных кибератак и ситуаций, в которых искусственный интеллект полностью выходит из-под контроля. Независимые специалисты, аккредитованные Министерством торговли США, будут регулярно проверять ведущие компании и их наиболее передовые продукты. Если аудит выявит критическую угрозу, специалисты должны сообщить о ней профильному ведомству в течение трёх дней после завершения проверки.
По проекту, только Министерство торговли сможет обратиться в федеральный суд с требованием запретить выпуск или применение опасной разработки. Другие государственные органы не смогут самостоятельно запрещать создание, развёртывание или внутреннее использование алгоритмов. Окончательное решение об ограничении работы модели будет принимать судья.
В Anthropic заявляют, что инициатива призвана установить для разработчиков передовых технологий прозрачные и чёткие стандарты безопасности. Однако высокие пороги для вмешательства уже вызывают опасения экспертов: они сомневаются, что регуляторы успеют предотвратить катастрофу, если возможный ущерб ещё не достигнет установленных законом масштабов.
Пока речь идёт только о законодательной инициативе, а не о принятом законе. Если документ одобрят, он может существенно изменить надзор за самыми мощными разработками в области искусственного интеллекта в США.