Планировщик SkyPilot выжал из стоек Nvidia на 27% больше пригодных видеокарт

Разработчики выложили SkyPilot-планировщик под стойки Grace Blackwell и заявили о 27% дополнительных пригодных видеокарт с того же железа. Grace Blackwell — это текущее поколение серверных платформ Nvidia, где процессор и ускорители связаны в один узел.

Проблема в том, что стандартные планировщики раздают задачи так, будто карты в стойке равноценны и независимы. В Grace Blackwell это не так: часть карт оказывается недоступна задаче из-за привязки к конкретному узлу, и мощности простаивают.

Публикация собрала 130 очков на Hacker News.