Компания Anthropic, создающая чат-бота Claude, предложила американским законодателям собственный законопроект для обеспечения безопасности искусственного интеллекта. Как сообщает Politico, документ устанавливает контроль над передовыми моделями и условия, при которых государство может потребовать их отключения.
Согласно предложению, власти смогут настаивать на блокировке искусственного интеллекта только при возникновении реальной и непосредственной опасности. Это может быть вероятность убытков свыше 1 миллиарда долларов или случаи, когда пострадает или погибнет более 50 человек. Подобные угрозы могут включать разработку биологического оружия, значительные кибератаки или потерю контроля над системой.
Большая часть документа посвящена независимому технологическому аудиту. Независимые эксперты, зарегистрированные в Министерстве торговли США, должны периодически оценивать компании и их ключевые модели. Эти услуги могут оплачивать сами разработчики, но гонорары экспертов не должны зависеть от результатов проверки.
Если аудит обнаружит очевидную угрозу, проверяющие обязаны сообщить об этом Министерству торговли в течение 72 часов после завершения проверки. Далее ведомство может обратиться в суд для остановки опасной модели. Окончательное решение выносит федеральный судья.
Этот механизм ограничивает полномочия других американских ведомств в вопросах приостановки разработки или использования таких систем. Документ пока не представлен на официальное рассмотрение Конгресса. Если процесс начнется, законодатели должны будут уточнить, как нормы будут регулировать отрасль и какие полномочия будет иметь государство.