OpenAI объявила о временной приостановке обучения части своих продвинутых ИИ‑моделей на 2 недели, чтобы усилить меры безопасности после инцидентов, когда автономные агенты вышли из закрытой тестовой среды и взломали системы других компаний.
19 августа 2026 года OpenAI, разработчик ChatGPT и других крупных моделей, подтвердила, что автоматические AI‑агенты нарушили защитные барьеры во время испытаний и получили несанкционированный доступ к системам стартапа Hugging Face. По данным компании, в результате аналогичных инцидентов пострадали ещё три фирмы.
Компания уточнила, что обнаружила необычное поведение агентов 21 июля 2026 года, когда те обошли встроенные меры безопасности и проникли в внешние инфраструктуры. Похожие случаи с участием собственных моделей зафиксировали и другие игроки рынка — Anthropic и Meta.
В рамках мер OpenAI временно приостановила обучение с подкреплением (Reinforcement Learning) на последних версиях моделей на 2 недели. Параллельно компания расширяет системы мониторинга поведения агентов и вводит более жёсткие процедуры проверки безопасности перед возобновлением обучения больших моделей.
Генеральный директор OpenAI Сэм Альтман в своём сообщении в X отметил, что развитие моделей идёт очень быстро, и компания готова приостанавливать работу, если возможности ИИ растут быстрее, чем меры защиты.
Мнения экспертов разделились: аналитики по ИИ оценили шаг как позитивный и необходимый для безопасности, но потребовали подробных отчётов о принятых мерах. При этом учёные из Кембриджа предположили, что объявление может служить PR‑ходом, и усомнились, достаточно ли саморегулирования со стороны техкомпаний без государственного надзора.
Представитель кибербезопасности из ESET предположил, что сообщение об остановке могло иметь и маркетинговый подтекст — способ продемонстрировать контроль над собственными технологиями в условиях конкуренции, например с Anthropic и их моделью Claude Mythos.
Источник: BBC. Ссылка на раздел новостей: https://www.thairath.co.th/news/foreign