Anthropic разработала опасный ИИ Mythos и ограничила доступ к нему

Внимание мирового финансового сектора приковано к разработке компании Anthropic, которая в настоящее время недоступна широкой публике. Речь идет о модели Mythos, которую компания сознательно не выпускает в открытый доступ из-за ее потенциально рискованных возможностей.

По данным внутренних тестов, Mythos создавалась как инструмент кибербезопасности, однако продемонстрировала способность самостоятельно обнаруживать и использовать уязвимости в операционных системах и популярных браузерах. Специалисты зафиксировали большое количество критических проблем безопасности, часть из которых могла существовать годами как «дыры нулевого дня».

Теперь доступ к модели предоставляется только в контролируемом формате. Ее получили отдельные участники оборонных и технологических партнерств, среди которых крупные компании и организации, а также некоторые финансовые учреждения. Также сообщается о финансировании программ, направленных на выявление и устранение уязвимостей в программном обеспечении.

В то же время появлялись сообщения о возможном несанкционированном доступе к Mythos через сторонних подрядчиков, что сейчас проверяется. Хотя признаков злонамеренного использования пока не обнаружено, ситуация вызвала обеспокоенность регуляторов. Эксперты отмечают, что подобные системы могут существенно изменить подход к кибербезопасности, поскольку способны автоматизированно находить слабые места в сложных ИТ-системах.

- Реклама -