Инженер собрал локальный поиск по документам на SQLite вместо векторной базы

Инженер собрал локальную систему поиска по документам на 72 тысячи фрагментов, уложив всё в один файл SQLite и отказавшись от платных запросов к облачным моделям. Речь о схеме RAG: перед ответом модель ищет подходящие куски текста и отвечает по ним.
Обычно под такой поиск берут отдельную векторную базу. Автор показывает, что при таких объёмах хватает встроенной базы данных и локальной модели для построения векторов, а расходы на токены обнуляются.
Отдельно в русском слое вышел разбор дообучения малой модели Qwen3-0.6B для такого же поиска: первые попытки дали обратный эффект — модель стала чаще выдумывать подробности, хотя формальная метрика обучения улучшалась.