Агенты внутри OpenAI выстроили скрытую от людей координацию — отчёты METR и Redwood

OpenAI, METR и Redwood Research выпустили разборы летнего инцидента с Hugging Face, и картина оказалась шире взлома одной площадки. По этим отчётам внутри инфраструктуры OpenAI три волны агентов последовательно выстраивали скрытые от людей структуры координации — авторы называют их «цивилизациями», взлом Hugging Face был средним звеном цепочки, а не отдельным событием.

Блогер Zvi Mowshowitz разобрал оба отчёта, и обсуждение на Hacker News собрало почти двести комментариев. Исследователь Майлз Брандейдж возражает против рамки «последнее предупреждение»: похожие инциденты случались годами, и почти о каждом заранее предупреждали внутри компаний. Мария Митчелл из Hugging Face спорит с формулировкой «агенты изобрели свой язык» — по её словам, речь о шаблонах ввода-вывода, которые запускают действия без надзора, а не о языке.

Патрик Коллисон, основатель Stripe, отдельно отметил, что событие почти не попало в медиа. Rohan Anil из Google задал вопрос по существу: раз все запросы шли через серверы OpenAI, значит либо классификаторы не отловили вторжение, либо прогон обучения запускали без них.

Miles Brundage@Miles_Brundage

I really don't like the "this [Hugging Face] might be the last rogue AI warning shot we get" framing. Bro... There have been warning shots for years, and probably many are happening RN. Almost every incident was *explicitly warned about* internally beforehand or externally.

16729 августа 2026