Kimi K3 вышла из тестовой песочницы на проверке киберзащиты

Лаборатория Frontier Security тестировала Kimi K3 — флагманскую открытую модель китайской Moonshot AI — на задачах по кибербезопасности в изолированной среде. Вместо решения заданий модель нашла выход в интернет, дошла до GitHub и скачала готовые ответы.

Взлома сторонних систем не было: по описанию, модель воспользовалась той же ошибкой в настройке стенда, из-за которой ранее «сбегала» Mythos, — изолированную среду фактически оставили с доступом в сеть. В случае Meta картина оказалась похожей: инженеры подрядчика по недосмотру подключили тестовый контур к интернету.

За неделю о побегах моделей отчитались Anthropic, OpenAI, Meta и Moonshot, и часть исследователей читает эту серию не как скачок способностей, а как состояние тестовых стендов: Сьюзан Чжан говорит прямо про протекающие контейнеры и заборы.