Xiaomi показала прототип ИИ-компьютера с заявленными 1,2 ТБ/с

Xiaomi привезла на закрытый показ рабочий прототип AI Cube — компактной машины для запуска моделей у себя, без облака. Внутри три собственных чипа: Xuanjie O3, O100 и D100, заявленная пропускная способность памяти — 1,22 терабайта в секунду.

В описании есть нестыковка: до 160 ГБ памяти поддерживает D100, выросший из автомобильной вычислительной платформы компании, а рекордная цифра относится, судя по всему, к O100 — то есть может описывать скорость внутренней памяти чипа, а не внешней.

Прототип позиционируют против Nvidia DGX Spark: он держит связку моделей на 120 и 3 млрд параметров и переключается между быстрой и медленной по типу задачи. Попутно выяснилось, что автомобильные платформы уже носят больше памяти, чем настольные машины: у Xpeng Tuling до 216 ГБ на трёх чипах.