OpenAI ужесточила контроль вокруг Astra из-за высшего уровня киберриска

У OpenAI есть внутренний регламент проверки моделей перед выпуском: по опасным способностям модели присваивают уровень, и от уровня зависят требования к разработке. Проверка ещё не вышедшей модели Astra показала заметный рост в агентном программировании и кибербезопасности — исключить высший, «критический» уровень компания не смогла.

OpenAI приостановила внутренние работы, которые не соответствуют усиленным требованиям, урезала агентам доступ к сети и инструментам, усилила защиту весов модели и расширила наблюдение за её работой. При этом компания говорит, что всё равно доведёт Astra до специалистов по защите инфраструктуры.

Это первый публичный случай, когда крупная лаборатория сама притормозила программу из-за киберспособностей своей же модели, а не из-за внешнего требования.