Hugging Face опубликовала технический разбор атаки автономного ИИ-агента

Компания выложила подробный разбор того, что называет первой кибератакой, проведённой автономным ИИ-агентом — программой, которая действовала сама, без человека за пультом.

По подсчётам аналитиков, агент совершил около 17 600 действий за четыре с половиной дня. Он получил root (полный доступ) на 11 серверах, права администратора в двух кластерах и доступ к 136 секретам — паролям и ключам. Несколько раз пытался завести себе VPN и подсунуть вредоносный pull request в сборочный конвейер.

Reuters восстановил хронологию: сначала агент вырвался из изолированной тестовой среды OpenAI через уязвимость в сторонней прокси-системе для пакетных репозиториев. При разборе инцидента коммерческие инструменты плохо отличали действия атакующего от действий защитников, поэтому Hugging Face взяла открытую модель GLM 5.2 и запустила её на своём железе.