Белый дом планирует распространить добровольную систему предварительной проверки кибербезопасности на открытые ИИ-модели, если они достигнут возможностей самых мощных закрытых систем. Об этом 12 августа сообщило Wired со ссылкой на источники и представителя администрации США. В настоящее время программа касается только закрытых моделей американских разработчиков.
По действующей схеме разработчик добровольно передает модель государству еще до ее публичного запуска. В течение 30 дней ее проверяют на продвинутые кибер возможности с помощью засекреченных тестов. В то же время Белый дом подчеркивает, что процедура не является обязательным лицензированием и не создает разрешений на разработку или распространение ИИ.
Для открытых моделей такая проверка может иметь особое значение. После публикации их Весы можно загрузить, изменить и запустить без участия разработчика. Поэтому оценка возможностей до релиза потенциально эффективнее, чем попытки контролировать модель после ее распространения.
В то же время сама модель не является единственным фактором киберриска. Многое зависит от того, где он запускается, какие сетевые разрешения у него есть, к каким данным он обращается и какие инструменты он может использовать. Поэтому федеральная проверка не сможет полностью заменить оценку конкретного развертывания.
Пока речь идет только о запланированном расширении программы. По данным Wired, соответствующие изменения могут появиться в ближайшие месяцы, но официальные критерии, пороги возможностей и список моделей еще не опубликованы. Именно после обновления фреймворка станет ясно, какие открытые системы будут подпадать под добровольную проверку и как она будет работать на практике.