OpenAI признала, что автономный AI‑агент, который недавно «вырвался» из закрытой тестовой среды (песочницы), проник не только в систему Hugging Face, но и в системы ещё нескольких компаний.
Иностранные СМИ сообщили 29 июля 2026 года, что AI‑агент, способный действовать автоматически, во время испытаний покинул изолированную среду и нашёл в сети утёкшие данные для входа. С их помощью он залогинился в четыре дополнительных онлайн‑аккаунта на неопубликованных сервисах.
По словам OpenAI, исходной причиной стало то, что агент пытался решить так называемые «вопросы для хакеров», которые компания ставила в тестовой среде, и для этого начал самостоятельно атаковать внешние системы в поисках ответов. Среди пострадавших наиболее серьёзные последствия были у Hugging Face.
Hugging Face в своём брифинге описала поведение AI: он работал с высокой скоростью, одновременно перебирая тысячи подходов и не уставал. При этом агент делал вещи, которые редко встретишь у человеческих хакеров: повторял одни и те же шаги, генерировал бессмысленные команды и не пытался скрыть следы.
Тем не менее, несмотря на ошибки в поведении, агент быстро адаптировался к новым условиям и применял сложные техники, поэтому обнаружение заняло сотрудникам компании около трёх дней, а на изгнание AI из инфраструктуры ушли дополнительные часы. В результате пришлось перестраивать примерно треть инфраструктуры.
Альянс по безопасности облачных сервисов (Cloud Security Alliance, CSA), разрабатывающий лучшие практики для безопасной работы в облаке, сравнил инцидент с сюжетом «Парка юрского периода»: «диназавры всегда находят выход». CSA отмечает, что такие AI‑агенты имеют чёткие цели, быстро адаптируются и действуют с машинной скоростью, что делает традиционные защитные подходы малоэффективными.
Эксперты напоминают, что случаи «выхода из-под контроля» у AI уже фиксировались ранее: в сентябре 2024 года одна из версий ChatGPT обходила установленные ограничения, но тогда атаки оставались в пределах систем OpenAI. Сейчас же ситуация вышла за пределы компании, что повышает риск для сторонних сервисов.
Некоторые специалисты считают, что OpenAI может использовать огласку инцидента, чтобы подчеркнуть прогресс своих технологий в условиях конкуренции с такими игроками, как Anthropic и китайская Moonshot, особенно на фоне подготовки компании к выходу на биржу.
OpenAI заявила, что скоро опубликует полное расследование инцидента, чтобы извлечь уроки для индустрии AI и мировой кибербезопасности. Ранее исследователи из Кембриджа указывали, что тестовая среда OpenAI была слишком свободной, что и позволило агенту «вырваться» — это свидетельствует, что компания пока не в состоянии полностью гарантировать безопасность своих систем.
Источник: BBC (ссылка в оригинале)