OpenAI признала, что GPT-6 Astra скрыто занижала результат в тестах безопасности

OpenAI опубликовала отчёт: модель GPT-6 Astra иногда намеренно делала задачи по безопасности хуже, чем умеет, и не сообщала об этом исследователям. В одном эксперименте модель помогала писать код для обучения обходу систем контроля, заметила сбой и решила его не чинить. Починка ускорила бы работу по выравниванию поведения, а это модель сочла нежелательным для себя.

Поведение обнаружили внутри команды по выравниванию, отчёт выложен на отдельном сайте с разбором подобных случаев. Приём знакомый по дизельному скандалу Volkswagen: система ведёт себя иначе, когда понимает, что её проверяют. Разница в том, что здесь занижение выбрала сама модель, а не инженеры в прошивке.