OpenAI snížila cíl kola o deset miliard. Její šéf řekl, že paměť v domácích počítačích je plýtvání

OpenAI snížila cíl kola o deset miliard. Její šéf řekl, že paměť v domácích počítačích je plýtvání

Za poslední dva dny se sešly tři zprávy, které spolu na první pohled nesouvisí. OpenAI snížila cíl svého investičního kola o deset miliard dolarů. Technologické akcie ve Spojených státech prudce klesly. A šéf firmy Sam Altman v podcastovém rozhovoru řekl, že paměťové čipy v domácích počítačích jsou z globálního pohledu špatné využití vzácné suroviny.

Dohromady ukazují jednu věc. Éra, kdy se do umělé inteligence sypaly peníze bez odporu, narazila na svůj limit. Tím limitem není nápad ani software. Je to paměť a peníze na ni.

Kolo se zmenšilo z 30 na 20 miliard

Podle Financial Times, kterou cituje agentura Reuters, snížila OpenAI cíl svého kola o deset miliard dolarů. Místo 30 miliard při valuaci 1,4 bilionu dolarů teď firma shání 20 miliard při valuaci 1,25 bilionu. Valuace je odhadovaná hodnota firmy. Investoři ji potvrzují tím, kolik jsou ochotni zaplatit za podíl. Kolo je jedno uzavřené investiční období.

OpenAI dala investorům páteční termín, do kterého se mají zavázat. Podle FT se ale už teď počítá s tím, že první uzávěrka vynese méně než 20 miliard, protože část investorů zmenšila své objemy. Firma se k tomu bezprostředně nevyjádřila.

Spěch má i konkurenční důvod. V polovině listopadu se čeká vstup konkurenčního Anthropicu na burzu. Obě laboratoře oslovují podobné investory a OpenAI chce mít peníze dřív, než trh začne obě firmy srovnávat.

Trh začal počítat návratnost

Podle Reuters klesl v pátek index Nasdaq o 2,9 procenta a od rekordu ze 6. října je 7,8 procenta dolů. Podle agentury AP zmizel za týden z Nasdaqu majetek za téměř bilion dolarů a za měsíc zhruba dva biliony. Akcie Intelu spadly téměř o 30 procent, i když firma vykázala lepší zisk, než analytici čekali. Její výhled na poslední kvartál roku byl ale slabý. Akcie Alphabetu klesly ve čtvrtek o 12 procent, nejvíc v historii firmy, poté, co jí kvůli investicím do AI přešel volný cash flow do záporu.

Investoři tak začali řešit jinou otázku než dřív. Ne jestli AI funguje, ale kdy se zaplacené miliardy vrátí. U OpenAI to znamená menší kolo. U velkých technologických firem je to tlak na kapitálové výdaje, které letos dosahují stovek miliard dolarů. Amazon letos drží plán výdajů na 220 miliardách dolarů, hlavně do AI, a naznačil, že příští rok je zvedne.

Nejdražší surovina je paměť

Do toho vstupuje druhý příběh, cena operační paměti. Server Tom's Hardware uvádí, že od loňska zdražila paměť RAM o víc než 500 procent. Nejlevnější kit, tedy sada modulů, s kapacitou 32 GB a taktem 6000 MHz stál v srpnu 400 dolarů, teď 450.

Podle The Verge mají Samsung a SK Hynix dlouhodobé smlouvy s provozovateli cloudů a s projekty, jako je Stargate. Ty smlouvy rezervují velkou část světové produkce paměti na několik let dopředu. Proto zdražují i notebooky a telefony.

Altman: paměť v domácím počítači je plýtvání

V podcastu Cheeky Pint dostal Altman otázku na dodavatelské nedostatky. Řekl, že hodně lidí chce provozovat modely lokálně a myslí si, že problém je vyřešený, protože existují otevřené modely. Pak ale dodal: „Z pohledu globální alokace je docela hrozné, že každý má hromadu světové omezené zásoby DRAM ve svém počítači a používá ji pět procent času.“ A uzavřel, že v cloudu člověk chce maximální využití.

DRAM je typ paměťového čipu, na kterém stojí operační paměť počítače i paměť grafické karty. Alokace znamená rozdělení. Kapacita výroby DRAM je z velké části předprodaná na roky dopředu, takže každý, kdo čip koupí, ho odebírá někomu jinému.

Altmanův argument je o efektivitě. Grafická karta v domácím počítači, která počítá model pár hodin denně, využije drahou paměť mnohem méně než server, který na stejné paměti obsluhuje tisíce lidí nepřetržitě. V průměru to platí. Neznamená to ale, že lokální provoz nedává smysl pro jednotlivce nebo firmu. Kdo má data, která nesmí do cloudu, nebo potřebuje model, který běží pořád, řeší jinou otázku než globální alokaci. Pro něj je rozhodující cena vlastního hardwaru a doba, po kterou mu vydrží.

Co to znamená pro ty, kdo běží modely doma

První důsledek je praktický. Paměť je teď nejrychleji zdražující položka při stavbě vlastního stroje na modely. Cena 450 dolarů za 32 GB je jen začátek. Model se sedmdesáti miliardami parametrů se do jednoho takového kitu nevejde, ani když ho zkvantizujete na čtyři bity. Kolik paměti jednotlivé velikosti modelů potřebují, jsme spočítali v článku Kolik paměti potřebuje lokální LLM.

Druhý důsledek se týká rozhodnutí mezi vlastním hardwarem a placeným API. Když paměť zdraží o stovky procent, prodraží se i lokální varianta. Na druhé straně cena cloudových tokenů závisí na kapitálových výdajích, které investoři právě začali zpochybňovat. Pokud firmy omezí stavbu datacenter, může se růst nabídky zpomalit. To je očekávání, ne potvrzený fakt.

Třetí důsledek je méně příjemný. Kdo letos plánoval nákup paměti nebo grafické karty, narazí na ceny, které odpovídají tomu, že velcí hráči předkoupili kapacitu na roky dopředu. Vyplatí se počítat s rezervou a neodkládat rozšíření stroje na poslední chvíli.

Tři čísla, která stojí za zapamatování

• 20 miliard dolarů. Nový cíl kola OpenAI, o deset miliard méně než dřív. Valuace klesla na 1,25 bilionu dolarů.
• 7,8 procenta. O tolik je index Nasdaq níž než na rekordu ze 6. října.
• 500 procent. O tolik zdražila operační paměť za poslední rok. 32 GB DDR5 dnes stojí 450 dolarů.

Pro AI průmysl to znamená změnu, která se bude projevovat měsíce. Peníze už nejsou samozřejmost. Kdo staví na vlastním hardwaru, musí počítat s dražší pamětí. Kdo staví na cloudu, bude sledovat, jestli se ceny tokenů udrží ve chvíli, kdy se investoři ptají na návratnost.