Nodul запустила модель DeepSeek V4.1 Flash на двух видеокартах вместо восьми
Компания Nodul запустила модель DeepSeek V4.1 Flash на двух видеокартах вместо восьми, которые требует стандартная конфигурация.
Сокращение достигнуто за счёт квантования — хранения весов с меньшей точностью — и перераспределения частей модели между картой и оперативной памятью. Компания сообщает, что скорость ответа осталась приемлемой для прикладных задач, а стоимость аренды железа упала вчетверо.
Проверить просадку качества по публичным замерам пока нельзя: своих цифр по бенчмаркам компания не привела.