Pokaždé, když se zeptáte ChatGPT nebo jiného velkého jazykového modelu, stane se něco pozoruhodného: stroj zopakuje výkon, který lidský mozek dělá bez námahy už tři sta tisíc let, jenže s jedním zásadním rozdílem. Zatímco vaše lebka běží nepřetržitě na příkonu nabíječky telefonu, datové centrum za jedinou odpověď spálí energii pro celou ulici domů.
Mozek řídí každou myšlenku, vzpomínku i vnímání najednou, neustále, s výkonem kolem dvaceti wattů. Není poháněn ničím exotičtějším než glukózou. A náklady na zodpovězení jakékoliv jednotlivé otázky? Zanedbatelná odchylka od stabilní spotřeby. Toto srovnání ale není celý příběh.
Šest set milionů let optimalizace versus pár let na GPU
Mysl, která právě čte tento text, může být stará tři sta tisíc let – věk prvních Homo sapiens. Mechanismus pod ní, samotný neuron, však prošel neustálou optimalizací po šest set milionů let, od chvíle, kdy se u raných živočichů před kambrickým výbuchem objevily první nervové soustavy. Mozek nedosáhl dvaceti wattů přes noc. Vydřel si tu účinnost stovkami milionů let.
Velké jazykové modely naproti tomu vznikly během několika let na grafických procesorech, zrozené z pokusu napodobit mozek: neurony, proces učení, celá slovní zásoba – vše vypůjčené. Někde mezi biologickou analýzou a GPU clusterem však inženýrství zatočilo jinam. Co bylo postaveno, inspirovalo se mozkem podobně jako letadlo ptákem: sdílí princip či dva a téměř nic dalšího.
Související článek
Zajímavá otázka nikdy nezněla, zda stroje dohnaly člověka. Ale jak mohou dva systémy dospět ke stejnému výsledku – predikci – tak radikálně odlišnými cestami, a proč jeden z nich nemůže být vůbec ve stejném závodě. Ten druhý má šest set milionů let náskok.
Od biologických neuronů k umělým sítím
Lidský mozek obsahuje zhruba 86 miliard neuronů. Každý přijímá elektrické a chemické signály od jiných buněk, integruje tyto vstupy a pokud jsou splněny určité podmínky, vygeneruje elektrický impuls. Synapse, spojení mezi neurony, mohou měnit svou sílu v reakci na aktivitu. Často aktivované dráhy sílí, jiné slábnou. Tato schopnost změny je součástí toho, co známe jako neuroplasticitu.
Umělá neuronová síť modeluje aspekty tohoto procesu matematicky. Místo biologických neuronů používá výpočetní jednotky provádějící numerické operace; místo fyzických synapsí číselná spojení reprezentovaná vahami neboli parametry. Během tréninku systém upravuje miliardy, v některých modelech dokonce biliony parametrů, posiluje matematické vzorce vedoucí k přesnějším výstupům a redukuje vliv vzorců vedoucích k chybám.
Přesto umělý neuron zůstává pouhá matematická operace implementovaná počítačovým hardwarem. Biologický neuron je živá, metabolicky aktivní buňka, jejíž chování ovlivňuje elektrické načasování, lokální biochemie, hormony, genová exprese i fyzická struktura.
Jak se jazyk stává matematikou
Pro zpracování textu LLM převádí slova do číselných forem. Text je rozdělen na malé jednotky zvané tokeny – může jít o celé slovo, část slova, interpunkci nebo dokonce mezeru spojenou s okolními znaky. Každý token je převeden na vícerozměrný vektor, rozsáhlou matici čísel reprezentující jazykové rysy a vztahy naučené během tréninku.
Model analyzuje, jak se tokeny vzájemně vztahují v rámci věty. Jak informace prochází sítí, číselná reprezentace každého tokenu se zpřesňuje podle kontextu. Například otázka: Jaké je hlavní město Francie?
Existuje široká paralela s tím, jak mozek reprezentuje význam. Mozek obecně neukládá složitou osobu, předmět nebo myšlenku v jednom izolovaném neuronu. Místo toho jsou různé aspekty vzpomínky – tvář člověka, hlas, jméno, emocionální význam – reprezentovány vzorci aktivity rozloženými napříč propojenými neuronovými systémy.
LLM také reprezentuje informace distribuovaným způsobem. Koncept obvykle není uložen v jednom parametru nebo na jednom pevném místě. Namísto toho je to, co se model naučil, rozloženo napříč mnoha parametry, zatímco význam v konkrétní větě vzniká ze vzorců aktivace vytvořených při interakci tokenů. V obou systémech závisí význam na vztazích napříč sítí, i když biologické a umělé mechanismy jsou zásadně odlišné.
Ústřední role predikce
Oba systémy se silně opírají o predikci. Mozek neustále hádá, co přijde dál – další pohled, zvuk nebo pocit – aby mohl včas jednat a přežít. Každý odhad kontroluje proti tomu, co se stane, a okamžitě opravuje, moment za momentem, celý život. Buduje funkční model reálného světa – objektů, lidí, příčiny a následku – tím, že v něm žije a pociťuje důsledky.
LLM hádá jediný nejpravděpodobnější další fragment slova znovu a znovu a řetězí tyto odhady do odpovědi. Během jedné masivní trénovací fáze měří, jak moc se každý odhad mýlil, a upravuje svá spojení – pak zamrzne, jakmile trénink skončí. Sbírá gramatiku, fakta a vzorce uvažování z druhé ruky z toho, jak lidé píší o světě, kterého se nikdy nedotkl.
Pozornost a kontextová okna
Pro efektivní zpracování složitých informací oba systémy upřednostňují to, na čem záleží. Biologická pozornost je řízena cílem a emocemi. V hlučné místnosti se člověk může zaměřit na jediný rozhovor a odfiltrovat zbytek na základě relevance nebo bezpečnosti.
Kontextové okno LLM funguje jako lidská pracovní paměť, drží aktivní prompt, předchozí dialog a získaný kontext. Cokoli mimo toto okno se stává nepřístupným, pokud není explicitně získáno.
Paměť a halucinace
Lidská paměť je rekonstruktivní a vícevrstvá – pracovní, deklarativní, procedurální, emocionální – a je revidována pokaždé, když je vyvolána. LLM nemá diskrétní, adresovatelnou paměťovou banku. Jeho znalosti jsou difuzně zapečeny do miliard vah během tréninku, nejsou uloženy jako získatelné záznamy.
Protože generuje text statistickou pravděpodobností spíše než vyhledáváním v databázi, může vytvořit věrohodně znějící jazyk v sebevědomá, ale nesprávná tvrzení – selhání známé jako halucinace. U lidí i strojů plynulost není zárukou pravdy.
Uvažování, kreativita a vědomí
Lidské uvažování spojuje logiku, smyslovou zpětnou vazbu, paměť a emoce. Uvažování LLM kombinuje naučené matematické reprezentace s postupnou predikcí. Protože model může znít logicky, zatímco staví na falešných předpokladech, nasazení v reálném světě jej často páruje s externími nástroji – kalkulačkami, vyhledávači a kódem.
Lidé i LLM rekombinují existující vzorce do nového výstupu. Ale lidská kreativita pramení ze žité zkušenosti – lásky, smutku, ambice a přežití. LLM modeluje jazykový výraz těchto sentimentů, aniž by je žil.
LLM může plynně diskutovat o sebeuvědomění, protože byl trénován na lidském textu o vědomí. Diskutovat o vědomí není totéž jako být vědomý.
Dvacetiwattový orgán versus megawattové datové centrum
Strukturální propast mezi biologickou a digitální inteligencí se nejostřeji projevuje v energii. Dospělý mozek běží na nízkém, téměř konstantním rozpočtu asi 20 wattů – zhruba spotřeba úsporné LED žárovky – a utrácí je nepřetržitě na udržování metabolismu, zpracování smyslových proudů, regulaci těla a provoz několika kognitivních úkolů najednou.
Moderní datové centrum pro AI naproti tomu rozptyluje megawatty až gigawatty pro pohon tisíců výkonných GPU a chladicí zařízení, které je udržuje naživu.
Porovnejte náklady na jeden jednoduchý dotaz – základní faktickou odpověď nebo rychlou dedukci. Mozek běžící nepřetržitě na 20 W (20 joulů za sekundu) stojí jedna sekunda myšlení asi 20 joulů energie. Přírůstkové náklady na odpověď versus tiché sezení jsou zanedbatelné – základní linie se sotva pohne.
Inferenční LLM? Krátká odpověď směruje dotaz přes mnoho GPU. Zveřejnění firem a nezávislé studie do roku 2025 se shodovaly na zhruba 0,3 Wh na typický textový dotaz (Google uvádí medián Gemini na 0,24 Wh; OpenAI přibližně 0,34 Wh), což odpovídá asi 1100 joulům. Dlouhé uvažování nebo agentní úlohy řetězící mnoho volání se pohybují v rozmezí několika až desítek watthodin.
Architektonická propast
Jednoduchý dotaz na velký model už teď stojí asi padesátkrát více energie než rozpočet mozku za sekundu – téměř dva řády. Zařadíte-li ho do dlouhých uvažovacích nebo agentních řetězců, rozdíl naroste na tři řády nebo více. Tato odchylka je architektonická.
Konvenční výpočetní technika odděluje zpracování dat od paměti, takže vynakládá obrovské množství energie na přenos dat tam a zpět miliardkrát za sekundu. Mozek integruje výpočetní výkon a paměť ve stejných synaptických strukturách. Biologické neurony se aktivují v řídkých, asynchronních impulzech a spotřebovávají energii hlavně při aktivaci. GPU provádějí husté násobení matic napříč miliardami parametrů bez ohledu na to, jak triviální je vstupní token.
Velké jazykové modely dosáhly pozoruhodné plynulosti. Pokud jde o obecnou inteligenci na watt, mozek zůstává bezkonkurenční. Hlavní technologickou nadějí, jak tuto energetickou propast překlenout, je dnes vývoj neuromorfních čipů – hardwaru, který fyzicky napodobuje strukturu neuronů a synapsí.
Zkratka k starodávnému biologickému triku
Když LLM odpoví na otázku, reprodukuje výkon, který mozek vykonával tři sta tisíc let, s tím rozdílem, že model spotřebuje dostatek energie pro celou čtvrť, zatímco mozek běží na příkonu menším než nabíječka. Tato biologická účinnost nevznikla přes noc – formovala se během šesti set milionů let buněčné evoluce.
Umělé neuronové sítě si vypůjčily slovní zásobu mozku, ale fungují jako letadla ve srovnání s ptáky: jeden nebo dva společné principy, radikálně odlišná konstrukce. LLM se s mozkem nehonají. Volí moderní, energeticky náročnou zkratku ke starodávnému biologickému triku.