Российский автор описал трёхфазную защиту ИИ-агентов от подмены инструкций

Российский автор описал трёхфазную схему защиты ИИ-агентов на базе модели безопасности OGL-Mini. Отправная точка разбора — реальные атаки последних двух лет: одно вредоносное письмо, и Copilot отдаёт платёжные данные клиентов; одно поддельное GitHub issue, и конвейер сборки скомпрометирован.

Схема разносит защиту по трём этапам: проверка входа до попадания в модель, ограничение прав на этапе вызова инструментов и разбор вывода до того, как он превратится в действие. Разбор идёт с примерами конкретных атак и того, какая фаза каждую из них останавливает.