Lokální LLM proti API: 91 milionů tokenů za hodinu mění ekonomiku agentů

Aktualizováno 6. listopadu 2026.

Agent při práci přečte mnohem víc, než napíše. Vrací se ke kódu, dokumentům, zadání i výsledkům nástrojů. U dlouhých úloh znovu používá velkou část stejného kontextu. Právě tady samotná cena za milion výstupních tokenů přestává vysvětlovat, kolik nás AI skutečně stojí.

Na čtyřech DGX Sparcích jsme během jedné doložené hodiny obsloužili 91,1 milionu tokenů včetně prefix cache. Důležitá je skladba provozu: kolik vstupu se opravdu počítá, kolik se znovu použije z paměti a kolik model vygeneruje.

Kolik tento provoz stojí za den a za měsíc

Pro tento scénář opakujeme naměřenou hodinu 24 hodin denně, sedm dní v týdnu. Za den jde o 2,187 miliardy tokenů, za průměrný měsíc o 730 hodinách o 66,508 miliardy tokenů. V obou případech zahrnujeme vstup z prefix cache, nově spočítaný vstup a výstup. Je to přepočet stejné intenzity práce, nikoli naměřený nepřetržitý měsíc.

Lokální sestava vychází v našem rozpočtu na 840 Kč denně a 25 559 Kč měsíčně s DPH. Jde o rozpočítanou cenu hardwaru a odhad elektřiny. Pro přímé srovnání s API používáme částky bez DPH: 694 Kč denně a 21 123 Kč měsíčně.

Všechny ceny v následující tabulce jsou bez DPH a za stejný objem i skladbu tokenů.

Varianta	Den, 24 hodin	Měsíc, 730 hodin
Naše čtyři DGX Sparky DeepSeek V4.1 Flash 1017, 401 tisíc tokenů CTX	694 Kč	21 123 Kč
GPT-5.6 Sol, 272 tisíc tokenů CTX	28 009 Kč	851 941 Kč
GPT-5.6 Terra, 272 tisíc tokenů CTX	14 469 Kč	440 091 Kč
GPT-6.1 Terra, 272 tisíc tokenů CTX	4 703 Kč	143 048 Kč
API Čína: DeepSeek V4.1 Flash 1017, mimošpičková sazba	464 Kč	14 104 Kč
API Čína: DeepSeek V4.1 Flash 1017, špičková sazba	927 Kč	28 208 Kč

Naše lokální sestava provozuje DeepSeek V4.1 Flash 1017 s kontextem 401 tisíc tokenů CTX. U modelů OpenAI volíme pro srovnání provozní limit 272 tisíc tokenů CTX. Scénář počítá s průběžnou kompaktací konverzace, aby se do tohoto limitu vešla. Každý model OpenAI má jednu cenu za stejný objem práce. Řádky označené „API Čína“ představují službu DeepSeeku provozovanou v Číně, odděleně od našeho lokálního nasazení stejné verze modelu.

Základní přepočet API v této tabulce používá sazby za čtení z cache, běžný nový vstup a výstup. U OpenAI mohou účet navýšit zápisy do cache. Předpokládáme stejný podíl cache hitů jako na lokálním serveru. Kompaktace může změnit počet vstupních tokenů i využití cache, proto tabulka zůstává cenovým přepočtem naměřené skladby provozu. Dvě sazby DeepSeeku ukazují časová tarifní pásma; skutečný nepřetržitý provoz by kombinoval špičkové a mimošpičkové hodiny.

Denní částka lokálu je poměrná část měsíčního rozpočtu. Tabulka porovnává cenu stejného počtu tokenů; kvalitu stejně dobře dokončené práce je potřeba ověřit na vlastních úlohách. Podrobnosti k nákladům a předpokladům najdete v dalších částech.

Co u nás lokální model nahrazuje

Pro naši agentní práci je hlavní srovnání se západním cloudovým API, například s GPT-5.6 při nastavení reasoning effort xhigh. Hledáme vlastní infrastrukturu, která zvládne potřebné úlohy, udrží dlouhý kontext a nechá nás řídit, kam putují firemní data. Levné API provozovatele v Číně pro takové zadání nemusí být přijatelnou alternativou.

Na serverech přitom může běžet model čínského původu. O původu vah a místě zpracování dat rozhodujeme zvlášť. DeepSeek provozovaný na vlastním hardwaru neznamená odesílání promptů do API DeepSeeku. Pod kontrolou musí být také nástroje a další služby, které agent používá.

V našich úlohách posuzujeme lokální DeepSeek jako praktickou alternativu k placeným modelům. Cenová tabulka sama ale nedokazuje shodnou kvalitu s GPT-5.6. Tu je potřeba ověřovat na dokončených úkolech, chybovosti a množství lidských oprav. Nastavení xhigh navíc není samostatný ceník: může změnit množství účtovaných reasoning tokenů.

Naměřeno: 91 106 581 tokenů za hodinu

Hlavní měření pochází z 2. listopadu 2026 přibližně od 13:57:45 do 14:57:45 CET. Běžel DeepSeek V4.1 Flash 1017 na TensorFold 4.0.3 v režimu TP4. Naše lokální nasazení používá kvantizované váhy. Šlo o běžný produkční provoz, nikoli o násobení několika sekund benchmarku.

Složka	Tokenů za hodinu	Podíl celku
Vstup obsloužený z prefix cache	88 274 822	96,89 %
Nově spočítaný vstup, prefill	2 386 201	2,62 %
Vygenerovaný výstup	445 558	0,49 %
Celkem	91 106 581	100 %

Vstup celkem představoval 90 661 023 tokenů. Cache pokryla 97,37 % vstupu a poměr vstupu k výstupu byl 203,5 : 1. Cache už je součástí vstupu. K celému vstupu ji znovu nepřičítáme.

• Dokončilo se 656 požadavků.
• Průměrný souběh byl 4,06 požadavku, maximum 9.
• Výstup dosáhl v průměru 123,8 tokenu za sekundu přes celé okno.
• Celkový obsloužený objem včetně cache odpovídal přibližně 25 307 tokenům za sekundu.

91,1 milionu není počet nově vygenerovaných ani unikátních tokenů. Zahrnuje opakované použití stejných prefixů. A 25 tisíc tokenů za sekundu není rychlost psaní modelu. Je to součet různých druhů obslouženého provozu.

Součty jsme ověřili rozdílem kumulativních čítačů na začátku a konci okna. Konzervativní výpočet zahrnuje jen celé pozorované intervaly uvnitř hodiny: 1 799 vzorků pokrývajících 3 599,6 sekundy. Je to nejvyšší doložená hodina v prohledaných archivech od 14. října do 6. listopadu. Historie má mezery, takže ji nevydáváme za absolutní maximum ani za prokázaný strop sestavy.

Novější TensorFold 4.0.5 zaznamenal 6. listopadu kolem 05:13 až 06:13 dalších 80,36 milionu tokenů včetně cache. Jde o jiné okno a jinou verzi. Výsledek 91,1 milionu patří verzi 4.0.3.

Prefix cache zrychluje práci s dlouhým kontextem

Naše lokální inference opakovaně využívá spočítané stavy společného začátku kontextu. Agent díky tomu může pokračovat nad rozsáhlou historií, aniž by server pokaždé zpracovával celý prefix od začátku.

Pro západní API je tento opakovaný vstup účtovanou položkou, i když levnější než nový vstup. U vlastního serveru ho obsluhuje infrastruktura, kterou už provozujeme. Vysoký podíl cache proto může výrazně změnit ekonomiku dlouhých agentních smyček. 97,37% cache hit ale neznamená 97,37% slevu na celý účet. Každá složka má jinou cenu a jinou výpočetní náročnost.

Co vychází měsíčně, pokud se tato hodina opakuje

Pro přehledný scénář násobíme každou složku 730 hodinami. Nejde o naměřený měsíční provoz. Jde o referenční přepočet, při kterém by po celý měsíc pokračovala stejná intenzita práce i stejná skladba tokenů.

Složka	Scénář za 730 hodin
Vstup z prefix cache	64,441 miliardy tokenů
Nově spočítaný vstup	1,742 miliardy tokenů
Vygenerovaný výstup	325,257 milionu tokenů
Celkem	66,508 miliardy tokenů

Ve výpočtu používáme referenční rozpočet: čtyři stroje dohromady za 875 960 Kč s DPH, rozpočítané do 36 měsíců, a odhad příkonu celé sestavy 280 W při elektřině za 6 Kč/kWh s DPH. Odhad příkonu ze zásuvky není měřením příkonu v uvedené peak hodině. Hodnoty z nvidia-smi samy o sobě neukazují spotřebu celých strojů.

Položka	Měsíčně s DPH
Rozpočítaná pořizovací cena hardwaru	24 332 Kč
Elektřina, odhad 204,4 kWh	1 226 Kč
Celkem po zaokrouhlení	25 559 Kč

Pro srovnání s API používáme dále částky bez DPH. Po odstranění 21% DPH z tohoto referenčního rozpočtu jde přibližně o 21 123 Kč měsíčně. To je model s plným odpočtem DPH, nikoli univerzální náklad každé firmy. Správa, ladění, síťové prvky, chlazení, opravy a záložní kapacita v částce nejsou. Jejich náklady je potřeba přidat podle konkrétního nasazení.

Při uvedeném měsíčním scénáři tak milion obsloužených tokenů včetně cache vychází na 0,318 Kč bez DPH, případně 0,384 Kč s DPH. Při desetkrát menším objemu a stejném rozpočtu je jednotková cena desetkrát vyšší.

Jednotkový náklad závisí na tom, které tokeny počítáme. Při přiřazení celého měsíčního rozpočtu pouze výstupu vychází v tomto scénáři přibližně 78,6 Kč s DPH za milion výstupních tokenů. Celý agentní provoz včetně obslouženého vstupu vystihuje cena za všechny zpracované tokeny.

Hlavní srovnání: GPT-5.6 proti vlastní infrastruktuře

API počítáme po složkách: cache krát její sazba, nový vstup krát jeho sazba a výstup krát jeho sazba. Používáme veřejný ceník Standard ověřený 6. listopadu 2026 a pro opakovatelnost kurz ČNB z 2. listopadu: 21,706 Kč za dolar. Částky jsou bez DPH. Slevy Batch/Flex, rychlejší režimy, regionální příplatky a zvlášť placené nástroje do základní tabulky nevstupují.

Například GPT-5.6 Sol při zvoleném limitu 272 tisíc tokenů CTX účtuje za milion tokenů 0,40 dolaru při čtení z cache, 4 dolary za běžný nový vstup a 20 dolarů za výstup. Zápis do cache s 30minutovou retencí stojí místo běžné vstupní sazby 5 dolarů.

GPT-5.6 bez přípony odkazuje na GPT-5.6 Sol. Terra je samostatný levnější model. Pro každý z porovnávaných modelů OpenAI používáme stejný provozní limit 272 tisíc tokenů CTX a jednu základní cenu.

API a kontext	730 hodin stejného objemu	Bod vyrovnání
GPT-5.6 Sol, 272 tisíc tokenů CTX	851 941 Kč	přibližně 2,5 %
GPT-5.6 Terra, 272 tisíc tokenů CTX	440 091 Kč	přibližně 4,8 %
GPT-6.1 Terra, 272 tisíc tokenů CTX	143 048 Kč	přibližně 14,8 %

Pro stejnou skladbu tokenů vychází referenční lokální rozpočet proti GPT-5.6 Sol při limitu 272 tisíc tokenů CTX přibližně 40krát nižší. Je to výsledek tohoto scénáře a uvedeného rozpočtu, nikoli automatická úspora při libovolném nasazení nebo důkaz stejné kvality odpovědí.

Tabulka oceňuje nový vstup běžnou vstupní sazbou. Zápisy do cache se účtují samostatnou sazbou podle zvolené retence a mohou skutečný účet zvýšit. Nahrazují přitom běžnou cenu dotčených vstupních tokenů, nepřičítají se k ní podruhé. U GPT-5.6 Sol používáme aktuální akční cenu uváděnou do 30. listopadu 2026.

Jde o cenový přepočet nad stejnými agregovanými objemy při zvoleném provozním limitu, nikoli o rekonstrukci faktury za naše požadavky. Předpokládáme, že by API obsloužilo stejný objem z cache. Kompaktace, retence a směrování mohou skutečný výsledek změnit.

Procenta v posledním sloupci znamenají podíl měsíčního referenčního objemu při zachování stejného poměru cache, nového vstupu a výstupu. Nejde o procento zatížení GPU ani o garanci návratnosti. Počítají se jako lokální měsíční rozpočet dělený modelovým účtem API. Při menším provozu se může změnit cache hit i spotřeba elektřiny.

API Čína: DeepSeek V4.1 Flash 1017

Pro úplnost porovnáváme i čínské API DeepSeek V4.1 Flash 1017, které poskytovatel nabízí pod názvem deepseek-flash. Jde o cloudovou službu oddělenou od DeepSeeku stejné verze na našich čtyřech DGX Sparcích. Při stejných objemech by čistě mimošpičková sazba znamenala přibližně 14 104 Kč bez DPH měsíčně, čistě špičková přibližně 28 208 Kč.

V prvním případě je API levnější než referenčních 21 123 Kč za lokál bez DPH, ve druhém je lokál levnější. Jde o dvě sazby pro stejný objem, ne o tvrzení, že lze celý nepřetržitý měsíc účtovat jen jednou z nich. Reálný účet závisí na časovém rozložení provozu.

Levná cloudová nabídka DeepSeeku tedy existuje. Pro zákazníka, který data do tohoto cloudu posílat nechce, ale hlavní rozhodování zůstává mezi vhodným západním API a vlastní infrastrukturou.

Co rozhoduje v praxi

Lokální provoz nám umožňuje stavět nad vlastním kontextem, držet opakovaně používané prefixy v paměti a pouštět dlouhé agentní úlohy s předvídatelným rozpočtem infrastruktury. Při dostatečném objemu práce může být cenový rozdíl proti západnímu API výrazný. Ověřená hodinová statistika ukazuje, proč nestačí dívat se jen na rychlost generování.

Před rozhodnutím potřebujeme znát skutečný měsíční objem po jednotlivých složkách, kvalitu výsledků na vlastních úlohách a náklady celé správy. Různé modely navíc mohou stejný text tokenizovat jinak a spotřebovat různé množství reasoning tokenů. Přepočet nad stejnými počty tokenů je cenový model; nejpřesnější srovnání změří cenu stejně dobře dokončené práce.

Pro občasné úkoly nebo jiné požadavky na kvalitu může být API praktičtější. Pro dlouhý kontext, opakované agentní smyčky a data pod vlastní kontrolou ale lokální sestava zaslouží poctivý výpočet, který zahrne veškerou práci, již model skutečně obsluhuje.

Technické pozadí najdete v našem měření DeepSeeku na třech a čtyřech DGX Sparcích. Pokud řešíte vlastní nasazení, podívejte se na lokální LLM pro firmy nebo na přehled paměťových nároků lokálních modelů.

Zdroje a předpoklady výpočtu

• Interní archiv telemetrie Warpy, ověřený 6. listopadu 2026: hodinový součet z 2. listopadu, TensorFold 4.0.3, 1 799 vzorků. Dílčí součty souhlasí s rozdíly kumulativních čítačů; překrývající se archivy ani TP ranky se nesčítají.
• OpenAI: oficiální ceník API, Standard, ověřeno 6. listopadu 2026.
• OpenAI: GPT-5.6 Sol a GPT-5.6 Terra, názvy modelů a účtování tokenů.
• OpenAI: účtování prompt cache, odlišení čtení a zápisu.
• DeepSeek: oficiální ceník, konkrétně DeepSeek-V4.1-Flash-1017.
• ČNB: kurzovní lístek z 2. listopadu 2026, USD 21,706 Kč.