OWASP выпустила руководство по проверке ИИ-систем на прочность

OWASP выпустила GenAI Red Teaming Manual версии 1.0 — руководство по проверке систем с генеративными моделями на прочность. OWASP — некоммерческая организация, чьи списки уязвимостей давно используют как отраслевой стандарт в веб-разработке.

Руководство описывает, как планировать атаку на систему с моделью, что именно проверять и как оформлять результат: промпт-инъекции, утечку данных через ответы, обход ограничений, риски в агентных цепочках. Это первая версия, помеченная как готовая к применению, а не черновик.

Для команд, которым нужно обосновать проверку ИИ-системы перед службой безопасности или аудитором, появился документ с внешним авторством, на который можно сослаться.