RAG

RAG (Retrieval-Augmented Generation, генерация с поиском) — подход, при котором языковая модель отвечает не только по памяти. Сначала система находит в базе знаний фрагменты, подходящие к вопросу, затем передаёт их модели вместе с промптом, и модель строит ответ на их основе.

Что даёт RAG:

• Ответы по внутренним документам, которых модель не видела при обучении
• Актуальные данные без переобучения модели
• Ссылки на источник, которые легко проверить
• Меньше выдуманных фактов

Так работают ответы из базы знаний у AI-агентов в Пачке: агент находит ответ в документах и переписке компании и ссылается на источник. Новичку не нужно ждать, пока освободится коллега, а история обсуждений в чатах и тредах становится контекстом компании.