Новые тесты для агентов: 3D-лабиринт MazeBench и WorldModelGym от Reka AI

MazeBench — трёхмерный открытый мир, на котором проверяют пространственное мышление агента и планирование на длинной дистанции. Авторы отмечают, что лучшие сегодняшние агенты не проходят дальше начальных уровней.

WorldModelGym меняет способ оценки моделей мира — систем, которые предсказывают, что произойдёт дальше. Важно не то, насколько правдоподобно выглядит сгенерированное видео, а угадывает ли модель, какое действие приведёт к лучшему исходу.

Обсуждают и общую проблему обучения агентов. Когда траектория работы с инструментами занимает 128–256 тысяч токенов, награда за весь результат целиком почти не помогает — нужны частичные оценки промежуточных шагов.