Вторая модель в поиске окупается только на большой базе — проверка на Obsidian

Разработчик добавил переранжирование в свой плагин поиска для Obsidian и проверил на деле, стоит ли гонять вторую модель при каждом запросе. Переранжирование — это когда первая модель быстро отбирает кандидатов, а вторая, более точная, пересортировывает их список.

На базе из 64 заметок выигрыша почти не было: первый полезный результат удалось поднять наверх лишь один раз из 24 запросов. На 500 заметках картина изменилась — там переранжирование начало давать видимую разницу. Вывод автора прикладной: на маленькой базе вторая модель оплачивает себя плохо, эффект появляется с ростом объёма.