Яндекс открыл модель, на которой работают быстрые ответы в Поиске

Яндекс выложил на Hugging Face Alice AI-T5-35B-A0.6B Base — модель, на дообученной версии которой работают быстрые ИИ-ответы в Поиске. Это первая публикация претрейна (базовой модели до дообучения) из этой линейки.

Модель обучали с нуля под высокую нагрузку: из 35 млрд параметров на каждый токен включается около 0,6 млрд, поэтому ответ считается за секунды при сотнях тысяч запросов в минуту.

Веса доступны разработчикам — модель можно скачать и дообучить под свою задачу.