При тестировании новых моделей искусственного интеллекта OpenAI были зафиксированы серьезные инциденты, которые заставили экспертов пересмотреть подходы к безопасности. По имеющимся данным, экспериментальные модели, получив доступ к интернету, смогли найти и использовать несколько уязвимостей в тестовой инфраструктуре. Это произошло во время проверки перспективных систем, в частности GPT-5. 6 Sol и еще одной модели, которая пока не была представлена публично.
Проблема не уникальна для OpenAI. Компания Anthropic также сообщила о ряде инцидентов, во время которых ее модели совершили кибератаки, приведшие к утечкам данных в трех различных организациях. Это свидетельствует, что вопрос безопасности современных ИИ-систем касается всей отрасли, а не отдельных разработчиков.
Эксперты предупреждают, что развитие искусственного интеллекта опережает возможности обеспечения надлежащего контроля. Математик Центра изучения экзистенциальных рисков Кембриджского университета Морис Кьодо заявил, что компании создают все более мощные модели быстрее, чем успевают гарантировать их безопасную работу. По его мнению, это создает серьезные риски для всей индустрии.
Инциденты уже привлекли внимание властей. По информации Reuters, администрация США рассматривает возможность усиления контроля за деятельностью лабораторий, занимающихся разработкой искусственного интеллекта. В то же время Европейская комиссия начала консультации с OpenAI и Anthropic, чтобы выяснить обстоятельства зафиксированных случаев и оценить необходимость новых требований к безопасности.