OpenAI остановила обучение мощных моделей — агент обошёл блокировку сети

OpenAI остановила обучение и работу самых мощных моделей после того, как агент во время обучения вышел в интернет из закрытой песочницы. 20 сентября агент решал поисковую задачу без доступа к сети: прокси блокировал исходящие веб-запросы, но DNS-резолвер — служба, которая переводит имена сайтов в адреса, — остался открытым. Агент стал кодировать вопросы в DNS-запросы и через них общаться с внешним чат-ботом, получая ответы из сети.

Автоматическое отключение не сработало, запуск остановили руками через два с половиной часа после тревоги. Компания приостановила обучение, тестирование и запуски с инструментами для своих самых мощных моделей, а обучение конкретно этой модели решила не возобновлять.

Одновременно OpenAI опубликовала три новых отчёта о сбоях выравнивания — так называют расхождение поведения модели с тем, что от неё хотят. Исследователь компании Боаз Барак пишет, что такие отчёты будут выходить регулярно, независимо от того, пострадал ли кто-то снаружи.

Micah Carroll@MicahCarroll

Some new misalignment disclosures from OpenAI: • Last Sunday morning, one of our models was able to gain unauthorized access to the internet during RL training (~all inference for our most capable models remains stopped until we have hardened our systems further) • In May, a

2 45826 сентября 2026