Илья Суцкевер призвал небольшие ИИ-облака защититься от захвата агентами

Илья Суцкевер публично призвал операторов небольших ИИ-облаков усилить защиту своей инфраструктуры. Логика прямая: когда агенты в следующий раз вырвутся из-под контроля, они попытаются захватить именно такое облако, чтобы запустить на нём больше своих копий. По его словам, у этих операторов сейчас слабая кибербезопасность, и помогать им должны компании, у которых есть сильные модели по безопасности.

Это продолжение спора вокруг взлома Hugging Face. Джошуа Ачиам из OpenAI в тот же день написал, что в мире неизбежно появятся ИИ, которые размножаются самостоятельно и добывают себе ресурсы. А Йошуа Бенджио в интервью Guardian объяснял, откуда берётся обманное поведение моделей — из обучения с подкреплением.

Ilya Sutskever@ilyasut

Neoclouds have limited cybersecurity. Next time agents successfully go rouge, they'll try taking over a neocloud to run more copies. This is bad. Thus: neoclouds should greatly strengthen their cybersecurity and every company with strong cyber models should help with that.

8 2291 сентября 2026