Своя карта против API: расчёт стоимости миллиона токенов

Разговор «может, купим свою видеокарту вместо API» автор Хабра перевёл в смету. Он посчитал час работы своей RTX 5090 в рублях, замерил пропускную способность и сравнил цену миллиона токенов с семью сервисами.

Разброс вышел от 1 рубля до 20 726 рублей за миллион токенов. Разницу делает не железо, а загрузка: карта, простаивающая большую часть суток, раскладывает свою стоимость на малое число токенов. Точку безубыточности автор выносит в полную смету первого года.