Открытый патч снял заводское ограничение матричных вычислений на картах RTX

Разработчик под ником Zagitta выложил проект gpu-unlock, который снимает программное ограничение тензорных ядер на игровых картах Nvidia серий RTX 30xx и 40xx. У этих карт тензорные ядра — блоки, которые перемножают матрицы, основную операцию обучения и работы нейросетей, — умеют считать в半точности FP16 и BF16 с накоплением результата в FP32. Nvidia программно режет скорость такого накопления вдвое, чтобы игровые карты не конкурировали с профессиональными.

Патч убирает это ограничение и, по заявлению автора, почти удваивает вычислительную мощность RTX 3090 на матричных операциях. За пару дней репозиторий собрал больше пяти тысяч звёзд на GitHub.

Лицензионных последствий автор не обсуждает, а независимых замеров на разных моделях карт пока нет.