← Дайджест от 8 сентября 2026
Инструменты
2 источникаHN 211
2 источникаHN 211Argonaut Labs запустила модель Kimi K3 на обычном MacBook Pro — по слову в секунду
Argonaut Labs выложила deltafin — способ запустить модель Kimi K3 на 2,8 трлн параметров на обычном MacBook Pro. Веса модели не помещаются в память, поэтому их читают потоком с четырёх внешних SSD прямо во время генерации.
Цена решения видна сразу: скорость — примерно один токен в секунду, то есть слово за секунду. Для диалога это неприменимо, для фоновых задач без спешки — работает. Репозиторий собрал 211 очков на Hacker News, в комментариях считают износ дисков при таком режиме чтения.
Что говорят
ArgonautlabsHacker News
Автор здесь. Модель — Kimi K3, 2,78 трлн параметров, ~1,45 ТБ весов экспертов; в память она не влезает, поэтому эксперты стримятся с диска: по файлу 17,5 МБ на пару (слой, эксперт), чтение через pread + F_NOCACHE, 16 из 896 на слой. Машина — MacBook Pro M5 Max со 128 ГБ, тремя корпусами Thunderbolt 5 и внутренним SSD; веса экспертов остаются в исходной точности MXFP4.
pjdesnoHacker News
Интересно, помогли бы более быстрые SSD? На eBay ещё можно найти б/у Optane, хоть и дорого — я про нормальные, а не про фейковые m.2, которые медленнее приличного потребительского NVMe.
voidnullvalueHacker News
Но зачем? На таких скоростях это не может быть полезно, и стоит куча денег ради такой убогой производительности.