Главное за 9 сентября 2026
Что важно запомнить
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
Основные понятия
- Зацикленный трансформер
- Схема, при которой модель несколько раз прогоняет один и тот же блок слоёв по кругу вместо наращивания новых слоёв: вычислений больше, размер модели прежний.
- KV-кэш
- Память, где модель хранит промежуточные данные по уже прочитанным токенам; растёт вместе с длиной контекста и часто занимает больше места, чем сами веса.
- Смешанная стоимость запроса
- Усреднённая цена обращения к модели с учётом типичного соотношения входных и выходных токенов — по ней сравнивают модели с разными тарифами.
- METR
- Независимая организация, которая проверяет передовые модели на опасные способности и по договорённости с лабораториями получает доступ к их внутренним данным.