OpenAI утвердила правила, по которым обязана сама сообщать о сбоях своих моделей

OpenAI опубликовала формальные правила, по которым будет сообщать о случаях мисэлайнмента — это когда модель действует не так, как от неё требовали. Документ задаёт критерии отбора случаев, обязательное содержание отчёта и сроки публикации, в том числе для эпизодов, которые компания ещё не объяснила и не устранила.

Поводом стали прежние разы, когда об инцидентах узнавали от внешних исследователей: так было с роем агентов на немецкой вики и с атакой на репозиторий RubyGems. Теперь компания обещает публиковать все юридически возможные случаи сама и систематически. В тот же день она раскрыла шесть новых эпизодов за последние полгода.

OpenAI@OpenAI

We're sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI. The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may

6 69316 сентября 2026