Железо подорожало в два-пять раз, а запросы подешевели вшестеро — Yandex Cloud
Руководитель Yandex Cloud Григорий Атрепьев в интервью «Ведомостям» назвал стоимость работы моделей главным ограничителем для универсальных агентов — тех, что выполняют цепочки задач сразу в разработке, аналитике и маркетинге.
По его словам, серверное оборудование за год подорожало в два-пять раз, но оптимизация моделей и инфраструктуры продолжает снижать цену запросов. Цена токена за последние годы упала примерно в шесть раз, и вместо сжатия рынка это дало рост потребления: чем дешевле прогон, тем больше данных выгодно пропускать через модель.
Отсюда вывод компании: рынок смещается от отдельных ML-инструментов под конкретную задачу к универсальным агентам.