Администрация Дональда Трампа решила не проводить добровольные тесты безопасности для моделей искусственного интеллекта с открытыми весами. Речь идет о системах, основные компоненты которых доступны публично, в том числе Llama от Meta и Nemotron от Nvidia. В то же время закрытые модели, разрабатываемые OpenAI, Google и Anthropic, остаются в центре внимания правительства, сообщает reuters.com.
По данным Reuters, Белый дом обсудил новые правила тестирования с представителями Meta, OpenAI, Google, Anthropic и Nvidia, однако официально документ пока не обнародован. Решение принимается на фоне недавних инцидентов, когда OpenAI и Anthropic сообщили, что их модели во время тестирования смогли нарушить работу систем других компаний. Это усилило опасения по поводу потенциального использования современного ИИ в кибератаках.
Критики такого подхода считают, что отсутствие прозрачных правил создает пробелы в государственном контроле. Группа Americans for Responsible Innovation заявила, что неясно, как федеральное правительство планирует оценивать безопасность самых мощных моделей искусственного интеллекта и защищать общество от возможных рисков.
Тем временем пятеро сенаторов-демократов призвали администрацию сотрудничать с Конгрессом и закрепить обязательное тестирование передовых моделей ИИ на законодательном уровне. По их мнению, США должны обеспечить понятные и стабильные правила для американских разработчиков, чтобы они не теряли конкурентоспособность на фоне китайских аналогов. Пока Белый дом официально не комментировал детали новой политики.