Сбер раскрыл нагрузку на свои ИИ-сервисы — 9 трлн токенов в месяц

Сбер сообщил, что потребление токенов в его ИИ-сервисах достигло 9 трлн в месяц. Токен — кусок текста примерно в три-четыре буквы, которым модели считают и вход, и выход; по числу токенов измеряют нагрузку и выставляют счета.

Цифра показывает масштаб внутреннего и клиентского потребления: это и ассистенты в приложениях, и агентные сервисы для разработки. В тот же день банк открыл внешним клиентам платформу для создания ML-моделей и выложил обновлённый агентный конвейер GitVerse для работы с кодом.