Inception Labs выпустила Mercury 3 — диффузионную модель для текста

Inception Labs выпустила Mercury 3 — языковую модель на диффузии вместо привычного предсказания слов по одному. Диффузионная модель выдаёт черновик всего ответа сразу и затем уточняет его за несколько проходов, поэтому генерация идёт быстрее при той же вычислительной мощности.
Компания называет Mercury 3 первой такой моделью, доведённой до рабочего масштаба: раньше диффузия для текста жила в исследованиях, а продукты строились на обычной схеме. Главный выигрыш — скорость ответа, и заявлен он прежде всего для задач с кодом.
Что говорят
volodiaHacker News
Я Володимир, сооснователь и главный научный сотрудник Inception. Главный вывод: диффузия масштабируется — со времён Mercury 1 мы увеличили модель более чем в 40 раз по числу параметров. Mercury 3 даёт 1000+ токенов в секунду на доступных NVIDIA Blackwell, это в 4–8 раз быстрее сопоставимых моделей, контекст вырос с 260K до 1M.
moonuHacker News
Очень хочется, чтобы их наконец сделали мультимодальными. Хотя по моим тестам это явный шаг вперёд по сравнению с 2.5.