OpenAI запустила платный ускоренный режим Ultrafast для модели Sol 6.1

OpenAI запустила режим Ultrafast для модели Sol 6.1 — ускоренную выдачу ответа за отдельные деньги. Режим доступен подписчикам Codex и Work за 500 долларов в месяц и в API по цене 12 долларов за миллион входных токенов и 60 за миллион выходных.

Работает он не на специализированном железе Cerebras, как предполагали, а на обычных ускорителях Nvidia Blackwell с маленьким размером пакета запросов. Чем меньше запросов обрабатывается одновременно, тем быстрее приходит ответ и тем дороже обходится каждый.

Мощности Cerebras при этом выкуплены целиком несколькими крупными клиентами из трейдинга — в их числе называют Jane Street.