Intel показала ИИ-ускоритель D270 с памятью до 480 ГБ
Intel представила ускоритель D270 для ИИ-нагрузок с памятью до 480 ГБ стандарта LPDDR5X. Ставка — на объём: большие модели не помещаются в память топовых карт Nvidia, и их приходится разносить по нескольким.
Память при этом медленная относительно HBM, которую ставят в ускорители Nvidia и AMD, так что карта метит не в обучение, а в выполнение запросов к крупным моделям, где важнее вместить веса целиком. В обсуждении на Hacker News главный вопрос — софт: у Intel исторически слабее поддержка в популярных библиотеках, и от этого зависит, станет ли карта реальной альтернативой.
Что говорят
hurricanepootisHacker News
Жаль, что Intel, видимо, не выпустит потребительские GPU. Их драйверный стек реально дозревал и на Linux, и на Windows — всегда приятно иметь третий вариант.
jauntywundrkindHacker News
Изначально говорили про 120 ГБ, но что партнёры смогут делать больше — вот и получили. Надеюсь, цена будет конкурентна Mac: у потребителей почти нет выбора по объёму памяти, а 20 каналов LPDDR5 — один из способов его получить.
suprjamiHacker News
При впечатляющих 1,5 ТБ/с пропускной способности памяти странно, что это почти не рекламируют. Маркетинг проспал.