Использование искусственного интеллекта в разработке программного обеспечения приносит не только ускорение процессов, но и новые риски. Эксперты отмечают появление целого класса угроз, связанных с ИИ-агентами, которые могут действовать от имени пользователя и взаимодействовать с кодом, файлами и внешними системами.
Основная проблема заключается в том , что ИИ теперь работает не только с текстом или кодом, но и с инфраструктурой целиком. Это приводит к ситуациям, когда модель может случайно нарушить работу системы, изменить конфигурации или передать конфиденциальные данные за пределы компании. Дополнительную опасность создают каналы взаимодействия между ИИ и разработчиком , которые могут быть перехвачены или использованы злоумышленниками.
По данным исследований, значительная часть утечек уже связана с тем, что сотрудники передают корпоративные данные в публичные ИИ-сервисы. Это могут быть фрагменты кода, документы, коммерческая информация и внутренние регламенты. В случае ИИ-агентов риск выше, потому что они не просто отвечают на запросы, но выполняют действия – получают доступ к API, читают файлы и работают с системой напрямую.
Эксперты подчеркивают, что при неправильной настройке прав доступа или отсутствии контроля ИИ может непреднамеренно раскрыть ключи, токены или конфиденциальные данные . Также существует риск атак из-за замены контекста, вредных инструкций и ошибок во взаимодействии между агентами.
Отдельно отмечается, что ИИ становится частью нового слоя уязвимостей на стыке разработки и информационной безопасности. Речь идет о проблемах, которые не укладываются в классические модели защиты: отравление контекста, опасные запросы, злоупотребление инструментами и чрезмерные права сервисных учетных записей.
При этом специалисты считают, что ИИ полезен как инструмент анализа кода и поиска уязвимостей. Он может быстрее обнаруживать типичные ошибки, такие как инъекции SQL или XSS, и служить дополнительным уровнем проверки.
Однако полностью доверять ИИ принятия решений о безопасности нельзя. Модели могут ошибаться, не учитывать бизнес-логику и создавать ложное чувство защищенности. Поэтому эксперты рекомендуют использовать ИИ как вспомогательный инструмент, оставляя финальную проверку за специалистами по кибербезопасности.