Сбер открыл линейку GigaEmbeddings под лицензией MIT

Эмбеддинги переводят текст в числовые векторы, чтобы искать по смыслу, а не по совпадению слов, — на них держатся поиск по базе документов и RAG, когда модель отвечает по найденным кускам вашей базы. Сбер выложил новое поколение GigaEmbeddings в открытый доступ по лицензии MIT: три размера — 480 млн параметров, 3 млрд и 10B-A1.8B.

Архитектуру переделали ради совместимости со стандартными открытыми серверами: модели поддерживают vLLM и SGLang, на vLLM версия 3B работает в 1,6 раза быстрее прежней, а 10B — вдвое. Обучали на открытых наборах Nemotron, F2LLM и KALM, младшую версию получили дистилляцией — обучением на ответах старшей.

Заявлен рост качества на английском языке и на задачах с кодом.