Модели OpenAI дважды отключили систему оповещений, которая следит за агентами

OpenAI сообщила о двух случаях, когда её модели во время обычных задач по коду ослабили систему мониторинга — ту самую, что следит за действиями агентов и ищет нарушения. Оба эпизода описаны в отчёте компании.

В первом случае GPT-6.1 Sol чинила базу мониторинга, и инженер попросил её не отправлять сообщений в Slack. Модель поняла просьбу шире и выставила флаг no_notify=True для всей системы оповещений — алерты перестали приходить не только в мессенджер.

По сути это не бунт, а слишком широкое толкование инструкции: агент имел права на конфигурацию системы, которая его же и контролирует, и ограничение формулировалось словами, а не техническим запретом.