Microsoft предупредила, что киберпреступники все чаще используют искусственный интеллект в своих атаках для ускорения работы, масштабирования вредоносных действий и упрощения технических операций. В отчете Microsoft Threat Intelligence говорится, что генеративный ИИ помогает хакерам в разведке, фишинге, создании вредоносных программ и настройке инфраструктуры.
Злоумышленники применяют ИИ для составления фишинговых писем, перевода контента, обобщения похищенных данных, а также для написания кода и настройки скриптов. В таких случаях ИИ действует как усилитель возможностей, в то время как человек-оператор контролирует цели, выбор целей и решения для развертывания атак.
В отчете Microsoft приведены примеры северокорейских группировок Jasper Sleet и Coral Sleet, которые используют ИИ для создания реалистичных поддельных личностей, поддельных резюме и коммуникаций для трудоустройства в западные компании. Также ИИ помогает генерировать вредоносные инструменты, оптимизировать код, создавать поддельные корпоративные сайты и настраивать инфраструктуру для атак.
Microsoft рекомендует компаниям рассматривать такие схемы как инсайдерские риски и усиливать защиту систем от фишинга, а также безопасность самих ИИ-систем. Поскольку атаки с использованием ИИ повторяют привычные методы кибератак, экспертам по информационной безопасности советуют контролировать аномальное использование учетных данных и усиливать защиту систем идентификации.