Разработчик выложил тест Brood War Bench, где модели играют в StarCraft 1998 года
Разработчик выложил Brood War Bench — тест, где модели играют в StarCraft: Brood War, стратегию 1998 года. Игра требует держать в голове состояние карты, планировать экономику и реагировать на действия противника в реальном времени — то есть проверяет не знание фактов, а управление длинной последовательностью решений.
Отчёт с результатами опубликован открыто. В обсуждении на Hacker News спорят, что именно меряет такой тест: способность к планированию или знакомство модели с многолетним корпусом разборов этой игры.
Что говорят
malfistHacker News
Отличная идея для бенчмарка. Всем существующим тестам не хватает стратегии: там достаточно тактических решений, а здесь нужно долгосрочное планирование, баланс и оркестрация.
bee_riderHacker News
В обучающих данных наверняка гора разговоров про эту игру. Интересно, можно ли по одной только манере игры понять, склонны ли модели выбирать стратегии, которые в интернете обсуждают и превращают в мемы?
Game_EnderHacker News
А есть подробности про обвязку для агентов? Любопытно, в каком виде им давали экран и состояние мира и какие инструменты были доступны.