AI se naučila mluvit, aniž by kdy četla. Blockův hlasový model běží na notebooku

AI se naučila mluvit, aniž by kdy četla. Blockův hlasový model běží na notebooku

Block, firma, která vlastní Square a Cash App, zveřejnil v pátek 23. října model Dessa. Podle vlastního popisu ho jeho výzkumný tým natrénoval od nuly pouze na nahrávkách lidských rozhovorů. Bez textu, bez převzatého jazykového modelu. Model zvládne živý rozhovor v reálném čase, sám rozhoduje, kdy vstoupí do řeči, a inference se vejde na MacBook Pro M4 Max nebo silnější stroj. Veřejně dostupný ale zatím není: Block sbírá zájemce na waitlist a raný přístup slibuje malé skupině bezpečnostních výzkumníků.

Zajímavé na tom není ani tak to, že další firma umí mluvícího agenta. Zajímavé je, že Block vynechal text úplně. Dnešní hlasoví agenti obvykle stojí na třech krocích: rozpoznání řeči na text, jazykový model, který vymyslí odpověď, a syntéza, která text převede zpět na zvuk. Každé předání znamená zpoždění a ztrátu. Model dostane větu bez tónu, pauzy a důrazu, takže nepozná, jestli se člověk směje, nebo se mu láme hlas.

Proč hlasová AI zní strojově

Block to ve svém oznámení říká bez obalu: současná hlasová AI podle něj umí být protivná a připravit řeč o informaci, kterou text neunese. Argument má dvě části. Za prvé, přepis zahazuje prozódii, tedy výšku, tempo, pauzy a důraz, a s nimi i to, co věta skutečně znamená. Stejná slova s důrazem na jiném slově znamenají něco jiného. Za druhé, když model čeká, až člověk domluví, přichází o timing: nedokáže přikyvovat slovy („hm", „jasně"), naskočit do pauzy ani se ozvat smíchem uprostřed věty.

Řešení, které Block popisuje, se jmenuje full-duplex. Znamená to, že model poslouchá a mluví ve stejnou chvíli, místo aby čekal, až druhá strana domluví. Dessa podle ukázek zvládá vsuvky, odmlky i smích uprostřed vlastní věty.

Podobným směrem jde i OpenAI. Její model GPT-Live-1, který OpenAI nabízí v API za 0,05 dolaru za minutu, je také full-duplex: poslouchá a mluví zároveň. Jenže GPT-Live-1 je podle dokumentace vrstva pro samotný hlas: hlubší uvažování a práci s nástroji předává jinému modelu na pozadí. Podle Blocku Dessa žádný textový model za sebou nemá. Všechno, co umí, se naučila ze zvuku.

Jazyk ze zvuku

Block popisuje, proč je to těžší, než to vypadá. Řeč se nikdy neopakuje: stejnou větu řeknete dvakrát a nahrávka je jiná. Jedno mluvené slovo zabere tisíckrát víc bajtů než totéž slovo v textu. K tomu se model musí naučit akcent, dýchání, vsuvky, sarkasmus a to, kdy má do řeči skočit. Block tvrdí, že Dessa se naučila jazyk ze stokrát menšího množství slov, než potřebují velké jazykové modely. To je tvrzení firmy, ne nezávislé měření.

Druhý důsledek je zajímavější. Když model zná svět jen z rozhovorů, nemůže mít stejné znalosti jako model, který přečetl celý web. Block sám píše, že Dessa toho ví překvapivě hodně vzhledem k tomu, že každý fakt vzešel ze surového zvuku. V ukázkách doplní název filmu, na který si člověk nemůže vzpomenout, a zahraje si hru na hádání. Na šíři znalostí textových modelů to podle ukázek nestačí a o práci s nástroji Block nic neříká.

Trénink na racku, běh na notebooku

Za pozornost stojí i hardware. Block tvrdí, že model natrénoval na jediném racku NVIDIA GB200 NVL72. Ten má v sobě 72 čipů Blackwell a 36 procesorů Grace, takže nejde o pokus na jedné kartě, ale o rackovou soustavu. Trénink a běh je potřeba oddělit: učení spotřebovalo celý rack, samotná inference se vejde na notebook. Block uvádí MacBook Pro M4 Max nebo lepší stroj a tvrdí, že inference běží rychleji než v reálném čase, takže v rozhovoru nevzniká hluché místo.

Co Block nedoložil

K modelu zatím neexistuje nic, co by šlo nezávisle změřit. Block nezveřejnil benchmarky, počet parametrů ani kartu modelu, nemá veřejné API ani ceník a váhy nevydal. Ukázky na webu jsou skutečné nahrávky rozhovorů s modelem, ale vybrané firmou. Srovnání s GPT-Live-1, ve kterém Dessa působí přirozeněji, pochází také od Blocku. Pod ukázkou firma sama poznamenává, že vývojář GPT-Live-1 s Blockem není spojený a Dessu neviděl ani neposoudil.

TechCrunch si všiml další nejasnosti: není jasné, jestli emoce vznikají samy, nebo je řídí nějaká skrytá instrukce. A že jde o první model svého druhu, tvrdí jen Block. Firma sama píše „pokud víme". To není nic neobvyklého u výzkumné ukázky, ale znamená to, že modely jako GPT-Live-1 nebo konkurenční hlasové systémy nelze s Dessou zatím férově srovnat.

Co z toho plyne pro praxi

Hlasoví agenti dnes obvykle běží v cloudu, protože potřebují velký model. Když se hlasová vrstva vejde na notebook, mění se dvě věci. První je soukromí: zvuk nemusí opustit zařízení, takže se nemusí posílat na cizí server. Druhá je cena: za minutu rozhovoru se neplatí žádné API, jen elektřina. U telefonní linky, která běží celý den, je to rozdíl, který jde spočítat.

Block přitom nevyvíjí hlasového agenta pro zábavu. Prodává pokladní systémy a platební služby malým firmám, které chtějí obsluhovat zákazníka i jinak než přes obrazovku. Model, který běží na zařízení v prodejně, je pro tuhle firmu logičtější než model, který posílá každý zákazníkův hlas do cloudu. Jestli se hlasoví agenti pro firmy opravdu posunou tímhle směrem, ukáže až praxe. Co takový agent umí dnes a co k němu firma potřebuje, popisujeme na stránce hlasová AI.

Pro češtinu to tak růžové není. Model se učí jazyk z nahrávek, takže kvalita stojí na tom, kolik hodin rozhovorů v daném jazyce existuje. Češtiny je v tréninkových datech obecně mnohem méně než angličtiny, ať už jde o text, nebo o zvuk. Block neuvádí, kolik hodin řeči model slyšel, takže nelze odhadnout, jaký objem českých nahrávek by podobný model potřeboval. Podobný model pro češtinu by proto nebyl překladem anglického modelu, ale samostatným projektem.

Co si z toho odnést

• Hlasová AI se posouvá od přepisu k modelům, které pracují rovnou se zvukem. Text přestává být povinná mezivrstva.
• Lokální inference už není jen pro text. Model, který zvládne rozhovor na notebooku, otevírá hlasové agenty tam, kde dnes být nemohou: do zařízení bez stabilního připojení a do firem, které nechtějí posílat zvuk zákazníků ven.
• Bez benchmarků a bez vah zůstává Dessa zajímavou ukázkou, ne nástrojem. Než ji někdo postaví do produktu, bude muset změřit, co umí, a porovnat to s tím, co slibuje.

Zdroje

• Block: Dessa, the Conversation Model trained only on speech, trénink jen ze zvuku, full-duplex, GB200 NVL72, běh na MacBooku Pro M4 Max
• TechCrunch: Block's new voice model sounds eerily human, dostupnost, otázka řízení emocí, byznys Square
• The Verge: Jack Dorsey's Block made an AI model that talks to you like an awkward new friend, ukázky rozhovorů a raný přístup pro výzkumníky
• OpenAI API: GPT-Live 1, full-duplex hlasová vrstva, delegace uvažování na jiný model, cena 0,05 dolaru za minutu
• NVIDIA: GB200 NVL72, 36 procesorů Grace a 72 čipů Blackwell v jednom racku