Cerebras выпустила CS-4: вдвое выше частота и вдвое быстрее ответы моделей

Cerebras делает ускорители размером с целую кремниевую пластину — один чип вместо стойки с обычными картами. Новый сервер CS-4 несёт три чипа WSE 3 Turbo, разогнанную версию прежнего WSE 3: частоту поднялa с 1,4 до 2,8 ГГц, вместе с ней удвоились пропускная способность памяти и число операций в секунду.

Отсюда обещание: модели отвечают вдвое быстрее, а для моделей на десять триллионов параметров компания заявляет больше тысячи токенов в секунду. Есть оговорка, которую видно из характеристик: памяти на чип осталось те же 44 гигабайта, поэтому такую модель придётся размазать по нескольким десяткам серверов CS-4.