NVIDIA открыла Nemotron 3.5 Lightning под постоянно работающих агентов

NVIDIA выложила Nemotron 3.5 Lightning — открытую модель на 30 млрд параметров, из которых при каждом запросе работают только 3 млрд, потому что архитектура разреженная и активируется лишь часть блоков. Расчёт на агентов, которые крутятся непрерывно и выполняют много однотипных задач: заявлено до четырёх раз больше выдаваемых токенов в секунду, чем у моделей того же размера, и окно контекста на миллион токенов.

Вместе с моделью выпущен NeMo Switchyard — открытый маршрутизатор, который решает, какой модели отдать очередной шаг. LangChain прогнала его по своему набору из 145 многошаговых задач с инструментами, поиском и файлами: 93% шагов ушло на модель в 30 млрд параметров, и только 7% потребовали более мощной.

Модель поддержана в transformers, выложены версии в формате NVFP4 — сжатом четырёхбитном представлении для карт NVIDIA.

LangChain@LangChain

Do all of your agents need a frontier model? We ran NVIDIA's open source router, Switchyard, through our Deep Agents eval suite comprising of 145 multi-step tasks - Tool use, retrieval, filesystem operations, long context. The result: 93% of turns went to a 30B model. Only 7% https://t.co/OZr0aVyoBN

6411 августа 2026