Стартап TypeSafe AI представил модель Jev, которая не генерирует текст

Диого Алмейда — соавтор метода RLHF (обучение модели на оценках людей) и один из авторов статьи про InstructGPT — представил первую модель своего стартапа TypeSafe AI под названием Jev. Компания два года работала скрытно.
Идея в том, что для многих задач текст на выходе не нужен: определить категорию запроса, оценить риск, выбрать следующий шаг — это выбор из конечного набора, а не генерация. Jev такие задачи решает без порождения текста, за счёт чего работает заметно быстрее обычных языковых моделей. Класс Алмейда назвал System One Models.
Через день после анонса на GitHub появился repo jevlike — попытка воссоздать модель по описанию, 81 очко на Hacker News.
Что говорят
mmastracHacker News
Любая диффузионная модель — потенциально Jev под прикрытием. У меня на DGX Spark выходит ~0,2 с на решение: 10/10 по определению языка программирования, 9/10 по естественному языку, 10/12 по сравнению величин, причём все ошибки помечены низкой вероятностью. И она ещё решает ASCII-лабиринт.
vrcHacker News
Из любопытства: почему столько проектов с кастомными энкодер-декодерами берут старые Qwen 2.5 и 3, а не самую маленькую 3.5? Дело только в лишних сотнях миллионов параметров или в архитектуре и предобучении новой версии?
steeveHacker News
Цитата из X: «Они пилили в стелсе два года, я — два часа… С удовольствием открываю Qwen-2.5-1B-RLCD, в 5 раз быстрее на устройстве для JSON-задач, где нужна типобезопасность».