Главное за 6 октября 2026
Что важно запомнить
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
Основные понятия
- Смесь экспертов (MoE)
- Устройство модели, при котором на каждый запрос включается лишь часть сети: у Mistral Large 4 из 1,05 трлн параметров работают 49 млрд.
- Эмбеддинг
- Перевод текста, картинки или звука в набор чисел так, чтобы близкие по смыслу объекты оказались рядом; на этом строится поиск по описанию.
- Дистилляция
- Обучение своей модели на ответах другой, более сильной — способ дёшево перенять её поведение без доступа к её весам.
- Visual grounding
- Умение модели находить на картинке конкретный объект или область по текстовому описанию и указывать его координаты.