Главное за 29 октября 2026
Что важно запомнить
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
Основные понятия
- Веса модели
- Числа внутри нейросети, полученные при обучении; если они опубликованы, модель можно скачать и запустить на своём железе, не обращаясь к серверам разработчика.
- Дистилляция
- Обучение маленькой модели на ответах большой: ученик воспроизводит поведение учителя и получает близкое качество дешевле.
- KV-кеш
- Внутреннее представление уже прочитанного текста, которое модель держит в памяти во время работы, чтобы не перечитывать контекст заново на каждом шаге.
- Планировщик
- Программа, которая распределяет задачи по видеокартам и серверам: от её правил зависит, сколько железа реально занято делом, а сколько простаивает.