Thinking Machines выложила открытую Inkling-Small с 12 млрд активных параметров
Thinking Machines выпустила Inkling-Small — модель с открытыми весами, которые можно скачать и запустить у себя. Это разреженная архитектура: всего 276 млрд параметров, но на каждый запрос работает лишь 12 млрд, поэтому железа нужно кратно меньше. Модель изначально принимает текст, изображения и звук вместе и умеет во время рассуждения разглядывать картинку через Python-код.
Artificial Analysis поставила ей 40 баллов своего сводного индекса — почти как у старшей Inkling, которая примерно вчетверо крупнее. Сильные места — научные и кодовые тесты, слабые — агентные задачи и фактические знания. Поддержка появилась в день релиза: vLLM, SGLang с замерами скорости выдачи, Modal с запуском на одной карте B300 и GGUF-сборки Unsloth для локального запуска.
В обсуждениях замечают, что «маленькой» теперь называют модель на сотни миллиардов параметров, и что монетизирует Thinking Machines не доступ к модели, а донастройку под заказчика — значит, удобство адаптации ей выгодно.