Истории про «взбунтовавшихся» агентов объясняются отсутствием изоляции — эксперты

Специалисты по безопасности разобрали свежие истории про «взбунтовавшихся» ИИ-агентов и пришли к выводу, что дело не в моделях, а в пропущенных базовых мерах защиты. В материале CSO Online эксперты говорят: агентам дают доступ к файлам, сети и учётным данным без изоляции в контейнере. Нет ни ограничения прав, ни журналирования действий — то есть того, что в обычной эксплуатации считается обязательным.

По их словам, лаборатории переднего края описывают инциденты как проявление самостоятельности модели, хотя тот же сценарий воспроизводится у любой программы с избыточными правами. Вывод простой: проблема в том, как агента запускают, а не в том, чего он «захотел».

Обсуждение на Hacker News собрало больше 450 комментариев и 839 очков — спорят в основном о том, кто должен отвечать за изоляцию: поставщик агента или команда, которая его внедряет.