Microsoft встроила в Windows собственную модель для кода MAI-Code-1.1 Flash

Microsoft объявила набор ИИ-функций для Windows, среди них собственная модель для кода MAI-Code-1.1 Flash на 137 млрд параметров с контекстом 256 тысяч токенов. Глава компании Сатья Наделла назвал это «безлимитным интеллектом на каждом столе».

Вторая часть анонса — Hybrid Intelligence в Copilot: с разрешения пользователя помощник читает контекст на самом компьютере, выполняет действия и часть запросов обрабатывает локальными моделями, не отправляя их в облако. Это экономит оплачиваемые токены и оставляет данные на машине. На презентации рядом с Наделлой и главой Nvidia Дженсеном Хуангом показали запуск моделей через llama.cpp — открытый движок для работы моделей на обычном железе. На это обратил внимание глава Hugging Face Клеман Деланг.