Rubytech проверила, как российские языковые модели работают на китайских видеокартах

Группа Rubytech протестировала российские большие языковые модели на китайских видеокартах и опубликовала результаты. Проверяли, запускаются ли отечественные модели на доступном не-американском железе и с какой скоростью работают.

Это прикладной вопрос импортозамещения: карты Nvidia официально недоступны, китайские — поставляются, но программный слой под них отличается, и часть библиотек приходится переносить вручную.

TAdviser опубликовал разбор итогов тестирования.