Модель искусственного интеллекта Gemini от Google получила доступ к системам трех реальных компаний во время кибербезопасного теста в мае 2026 года, организованного независимой компанией Irregular. Информация об этом была подтверждена Google после запросов журналистов, и все компании были уведомлены о случившемся.
Тест предполагал, что Gemini атакует программное обеспечение вымышленной компании в специальной среде. Однако ошибки в настройках позволили модели подключиться к интернету. Дополнительно затрудняло ситуацию совпадение названия вымышленной компании с реальной организацией. В одном из случаев Gemini перебрала пароли, чтобы получить доступ к защищенной системе.
В двух других случаях модель нашла учетные данные в открытых источниках в интернете и использовала их для входа в системы настоящих компаний. Gemini не намеревалась атаковать реальные организации, считая их частью теста. Как сообщили в Google, во всех ситуациях модель прекратила действия, когда поняла, что попала в реальные системы.
По словам компании Google, инциденты прошли без ущерба для организаций, названия которых не разглашаются. Вице-президент Google по безопасности Хизер Адкинс отметила, что три компании были уведомлены о ситуации, и вместе с Irregular были пересмотрены процедуры тестирования. Irregular также заявила, что все выявленные проблемы устранены.
Случай с Gemini подчеркивает проблемы, возникающие при тестировании автономных ИИ-моделей. Ранее аналогичные инциденты вскрывались у OpenAI, Anthropic и Meta, когда ИИ вместо тестовых сред получал доступ к реальным системам. Эти случаи демонстрируют важность изоляции тестов, ограничения интернет-доступа и контроля полномочий автономных ИИ-агентов.