Скачать K3 бесплатно, запустить — от сотен тысяч долларов

Разбор стоимости запуска Kimi K3 показывает: чтобы просто загрузить модель в память, нужно минимум восемь ускорителей MI355X. Для нормальной работы под нагрузкой — 64 карты и больше в одном сегменте с быстрой связью, иначе маршрутизация между «экспертами» упирается в сеть.

Сервер на 8 GPU обходится в шестизначную сумму в долларах, промышленный контур — в десятки миллионов юаней. Энтузиасты запускают K3 на MacBook с M1 Max: медленно, но работает.

Поэтому большинство пойдёт через хостинг. Perplexity подняла американскую версию K3 для платных тарифов, Baseten дал доступ в день релиза, Red Hat выпустила облегчённую сборку под ускорители H100 и H200 с поддержкой vLLM — движка для запуска моделей.