Яндекс открыл Alice AI-T5 — модель быстрых ответов в Поиске

Яндекс выложил в открытый доступ Alice AI-T5-35B-A0.6B — предобученную с нуля модель, которая отвечает за быстрые ответы в Поиске. CTO Alice AI Search Артур Петросян рассказал о релизе на конференции Practical ML Conf. Модель дала +0,34% к продуктовой метрике «сессий на пользователя» и в 56,7% парных сравнений выигрывает у Google AI Overview.

В названии зашита архитектура: из 35 млрд параметров при ответе работают только 0,6 млрд — остальные не задействуются. Такая схема даёт скорость, нужную поисковой выдаче, где ответ показывается прямо над ссылками.