Галлюцинации — ошибки языковой модели, при которых она уверенно выдаёт неверную информацию. Модель генерирует самый вероятный текст, а не проверяет факты, поэтому может придумать источник, несуществующий метод API или цифру, которой нет в документах.
Почему возникают галлюцинации:
- Нужных данных не было ни в обучении, ни в контексте
- Вопрос сформулирован неоднозначно
- Модель достраивает ответ по похожим примерам
- Контекст перегружен, и важные детали теряются
Как их снижают:
- Дают модели источники через RAG и просят на них ссылаться
- Подключают точную документацию, а не полагаются на память модели
- Проверяют важные ответы человеком
- Разрешают модели ответить «не знаю»
Работая с API Пачки, агенту не нужно угадывать методы: актуальная документация есть в llms.txt, в MCP-сервере Context7, в Agent Skills и в спецификации OpenAPI.
Для разработчиков
Документация на dev.pachca.com →