Агент думает молча, а наружу выдаёт только действия — работа на arXiv

Исследователи опубликовали работу о гибридных рассуждающих агентах: модель думает во внутреннем представлении, а наружу выдаёт только текст действий. Обычно агент рассуждает вслух — пишет цепочку мыслей словами, и каждое такое слово стоит денег и времени.

Здесь промежуточные шаги остаются в скрытом состоянии модели, а в текст уходит лишь вызов инструмента или ответ. Авторы сообщают, что это сокращает объём порождаемого текста при сопоставимом качестве на агентных задачах.

Оборотная сторона названа в обсуждении на Hacker News: рассуждение перестаёт быть читаемым, и проверить, почему агент выбрал то или иное действие, по логам больше нельзя.