AMD предложила заменить половину памяти ИИ-серверов флеш-накопителями
AMD предложила держать часть оперативной памяти ИИ-серверов на флеш-накопителях NVMe и обещает до 99% прежней производительности при вдвое меньшем объёме DRAM.
Работает это через лицензию Mext: отдельная ИИ-модель предсказывает, какие страницы памяти понадобятся дальше, и заранее перекладывает их между быстрой DRAM и более дешёвой флеш-памятью. Решение работает на серверах с процессорами Epyc.
Стартап Mext компания купила в июне, его бывший гендиректор Гэри Смердон теперь отвечает в AMD за развитие этого направления. Независимых замеров обещанных 99% пока нет.