Kalkulator TCO: on-prem vs chmura AI
Policz realny koszt własnego LLM on-premise vs subskrypcji chmurowej w horyzoncie kilku lat. Liczymy to, co konkurenci pomijają: prąd, chłodzenie, ludzi i realne wykorzystanie GPU 40–65% — nie deklarowane 80–90%.
Chmura tańsza o 45% w horyzoncie.
Break-even: brak w horyzoncie
Chcesz, żebyśmy policzyli to dla Twojego realnego obciążenia i architektury?
→ Umów 30 min- 01Realne wykorzystanie GPU w produkcji to zwykle 40–65%, nie deklarowane 80–90%. Wyższe wartości to szczyty w benchmarkach, nie średnia dobowa.
- 02W 3-letnim TCO koszt ludzi (MLOps/admin, FTE) często przewyższa koszt sprzętu. To najczęściej zaniżana pozycja.
- 03Chłodzenie i narzut zasilania (PUE ~1,3–1,5) dodają zwykle 25–40% do zużycia energii samego węzła GPU.
- 04Cena kart z oferty to nie TCO — realny 3-letni TCO bywa 1,8–3,5× ceny ofertowej sprzętu.
- 05Silnik inferencji ma znaczenie: vLLM daje ~10–19× wyższy throughput niż Ollama na tym samym GPU, obniżając koszt na zapytanie.
- 06Chmura bywa tania na starcie, ale koszt tokenów potrafi gwałtownie rosnąć wraz z użyciem — dlatego porównujemy pełny horyzont, nie miesiąc.
- // energia/rok = pobór kW × 24 × 365 × PUE × cena kWh (× 0,45 jeśli wyłączasz poza godzinami)
- // ludzie/rok = ułamek FTE × roczny koszt 1 FTE
- // wsparcie/rok = CAPEX × % wsparcia HW
- // TCO on-prem = CAPEX + lata × (energia + ludzie + wsparcie)
- // TCO chmura = koszt miesięczny × 12 × lata
- // break-even = pierwszy miesiąc, w którym skumulowany koszt on-prem ≤ skumulowany koszt chmury
Bo tyle wynosi realne, utrzymane wykorzystanie w produkcji. Deklarowane 80–90% to szczyty w benchmarkach, nie średnia dobowa. Zawyżanie tego parametru sztucznie zaniża TCO on-prem.
W 3-letnim horyzoncie pełny koszt zespołu MLOps/admin często przewyższa koszt sprzętu. To najczęściej pomijana i najbardziej zaniżana pozycja w kalkulacjach vendorów.
PUE (~1,3–1,5) to narzut na chłodzenie i zasilanie — dodaje zwykle 25–40% do samego zużycia energii przez GPU.
Nie. Cena z oferty to ułamek całości — realny 3-letni TCO bywa 1,8–3,5× ceny ofertowej sprzętu po doliczeniu energii, ludzi i wsparcia.
Tak, istotnie. vLLM potrafi dać ~10–19× wyższy throughput niż Ollama na tym samym GPU, co bezpośrednio obniża koszt na zapytanie. Dobór silnika to jedna z najtańszych dźwigni optymalizacji.