Одна и та же видеокарта H100 стоит от 2,69 до 12,29 доллара в час — замер Data Receipts
Один и тот же ускоритель H100 стоит от 2,69 до 12,29 доллара в час в зависимости от того, у кого его арендовать. Проект Data Receipts свёл цены разных площадок в одну таблицу. H100 — основная видеокарта Nvidia для обучения и работы больших моделей.
Разброс почти в пять раз получается между одинаковым железом и одинаковым объёмом памяти: разница в договоре и площадке, а не в характеристиках. Авторы выложили исходные данные и методику сбора на GitHub.
В обсуждении на Hacker News добавляют, что нижняя граница обычно требует долгого обязательства по сроку, а почасовая аренда без обязательств стоит ближе к верхней.
Что говорят
plantainHacker News
Запускать что-то ценное на Runpod community или Vast — чистое безумие. Хосты спокойно заглядывают внутрь виртуалок, это открыто обсуждают в их же Discord.
jdc0589Hacker News
Runpod отличный, я его фанат, но попробуйте поймать доступность конкретной GPU больше 20 ГБ видеопамяти, когда она реально нужна. В прошлый раз цена H100 была уже совершенно неважна.
nicoHacker News
Да, и цены часто просто бессмысленны. Мне не раз попадались арендованные GPU с зависшими процессами, устаревшими драйверами и библиотеками или скверным интернетом.