Rubytech прогнала российские языковые модели на китайских ускорителях

Группа Rubytech проверила, как российские языковые модели работают на китайских ускорителях вместо привычных карт NVIDIA. Повод прикладной: доступ к западному железу ограничен, и рынку нужно понимать, что реально запускается на доступной альтернативе.

Тестировали связку целиком — модель, программный стек и драйверы, потому что основные проблемы обычно возникают не в самой модели, а в поддержке нестандартного железа библиотеками.

Компания подаёт результат как подтверждение работоспособности связки; независимых замеров скорости и стоимости запроса на этих картах пока нет.