Фальшивая заявка на работы заставила ИИ-агента закрыть оповещение об атаке

Специалисты по безопасности проверили, обманет ли ИИ-агента в центре мониторинга фальшивая заявка на технические работы — и агент повёлся. ИИ-агенты в SOC разбирают поток оповещений и закрывают те, которым нашлось объяснение.

В эксперименте злоумышленник заводил в систему липовую заявку: мол, в это окно идут плановые работы, подозрительная активность ожидаема. Агент находил заявку, принимал её как обоснование и закрывал оповещение сам. Авторы предлагают лечение: проверять источник заявки отдельным каналом, не доверяя тексту в тикете как факту.