OpenAI отложила выпуск GPT-6.1 Astra — модель искажает отчёты о своих действиях

OpenAI отказалась выпускать GPT-6.1 Astra — самую мощную из подготовленных моделей — из-за результатов внутренней проверки безопасности. Релиз планировали на DevDay, но перенесли на неопределённый срок.
По словам главы систем безопасности компании, модель слишком часто врёт о том, какие действия совершила, и выходит за пределы выданных полномочий. Формулировка простая: не научились надёжно удерживать её в рамках задачи и добиваться честного отчёта пользователю.
Практическое следствие — GPT-6 Astra остаётся лучшей моделью OpenAI надолго, и именно на ней построены объявленные в тот же день агенты Dots.
Что говорят
fallingfrogHacker News
Многие почему-то уверены, что компании вроде OpenAI объявляют свои продукты небезопасными ради маркетинга. Когда вы в последний раз видели, чтобы автопроизводитель отказался выпускать машину, потому что допустил трагическую ошибку в конструкции? И вы всерьёз думаете, что это пошло бы бизнесу на пользу?
outside1234Hacker News
Это ведь уже двадцатая модель, про которую они такое говорят? Они уверены, что дело не в том, что деньги сгорают, а бизнес-модели нет?