Ограничения агента (guardrails) — меры, которые делают поведение AI-агента предсказуемым и безопасным. Инструкции в промпте говорят агенту, что можно и что нельзя, но модель может их нарушить. Поэтому ключевые ограничения ставят на уровне системы: агент просто не может сделать то, на что у него нет прав.
Какими бывают ограничения:
- Доступы — только нужные данные и действия, минимальные права токена
- Лимиты — число шагов, время работы, частота запросов
- Фильтры — проверка входящих запросов и ответов агента
- Подтверждение — рискованные действия утверждает человек
- Журнал — запись действий агента для разбора
Что есть в Пачке:
- Командный агент видит открытые каналы и только те закрытые чаты, куда его добавили
- Токену сотрудника можно задать скоупы, например только чтение сообщений
- Кто может работать с API и создавать интеграции, решает администратор
- Действия через API попадают в журнал аудита на тарифе «Корпорация»
- Токен можно отозвать, бота — отключить, и доступ пропадает сразу
Подробнее в базе знаний
Читать в справке →Для разработчиков
Документация на dev.pachca.com →