Стартап Thinking Machines выложил веса модели Inkling 2 Small для запуска у себя
Thinking Machines — стартап бывшего технического директора OpenAI Миры Мурати — опубликовала веса модели Inkling 2 Small, то есть выложила её для скачивания и запуска у себя. Неделю назад модель была доступна только на собственной платформе компании Tinker.
В модели 594 млрд параметров, но на каждый токен работают 17 млрд. Модель принимает текст и картинки, отвечает текстом, держит контекст до миллиона токенов и позволяет задавать, сколько усилий тратить на рассуждение.
Это вторая открытая модель компании за неделю: ранее она выложила веса другой версии, для которой нужны две видеокарты B300.