Агент тратит энергию по-разному из-за кода вокруг модели — замеры Neuralwatt

Компания Neuralwatt измерила, сколько энергии тратит агент в зависимости от харнеса — кода вокруг модели: как формулируется задача, какие инструменты доступны, как разбирается ответ.

По их замерам одна и та же модель на одной и той же задаче расходует заметно разное число токенов и, соответственно, электричества, если менять обвязку. Избыточные вызовы инструментов, повторная подача контекста и длинные служебные инструкции дают основной перерасход.

Вывод прикладной: экономия на счёте за API и на энергии достигается не сменой модели, а чисткой того, что ей отправляют.