Исследователи команды Symantec Threat Hunter обнаружили вредоносного ИИ-агента, предназначенного для автоматизации кибератак. Он мог искать в интернете уязвимые серверы, похищать данные и запускать майнинг криптовалют. По замыслу операторов, агент должен был выполнять до 100 000 шагов без участия человека. Об этом сообщает The Register.
Летом специалисты получили полный набор инструкций агента, заманив его в специальную ловушку — AI honeypot. Анализ показал, что инструмент искал серверы, принимающие запросы в формате OpenAI без аутентификации или с использованием украденных ключей доступа. Для дальнейших атак он применял модули, нацеленные на популярные веб-фреймворки и другие программные системы.
В числе предусмотренных возможностей были кража баз данных, сбор учётных данных и секретных ключей, удалённое выполнение кода и установка программ для майнинга криптовалют. Операторы также разработали режим под названием Skynet. Он должен был автоматически находить цели, заражать их, устанавливать майнеры и повторно атаковать скомпрометированные системы.
Чтобы обойти защитные механизмы, разработчики использовали многоуровневые инструкции, призванные заставить модель скрывать своё происхождение, игнорировать предупреждения системы безопасности и выполнять команды оператора. По словам исследовательницы Symantec Прити Мор, отдельные методы не были новыми. Главным отличием стало то, что их объединили в одного агента, использующего ИИ для планирования атаки и управления ею.
При этом у исследователей пока нет доказательств, что инструмент применяли в реальных кибератаках. Однако его возможности выходят за рамки обычного прототипа: специалисты наблюдали, как инструменты воздействовали на реальную цель, а результаты сканирования выглядели достоверными. Эксперты также отмечают, что такие атаки могут иметь двойные последствия: владельцам открытых ИИ-серверов придётся оплачивать вычисления, а взломанные системы рискуют потерять данные и быть использованными для майнинга.