Kolik stojí provoz lokálního LLM proti API. Náš čtyřuzlový stroj vychází na 37 Kč za milion tokenů
Čtyři DGX Sparky za 876 tisíc korun vyjdou na 25 559 Kč měsíčně, z toho elektřina je necelých 5 procent. Při plném vytížení zvládnou 693 milionů tokenů, tedy 36,9 Kč za milion. Stejný model přes API DeepSeeku stojí 13 až 26 Kč. Rozhoduje vytížení, ne cena elektřiny.
Číst celý článek


















