Andrej Karpathy, jeden z klíčových architektů moderní AI, varuje před přehnaným optimismem ohledně blízké budoucnosti umělé inteligence. Podle něj průmysl přeceňuje své schopnosti a místo reálného pokroku často prodává iluzi.
Jeden z lidí, kteří se nejvíce podílejí na vývoji masivní umělé inteligence, nemá o pokroku těchto nástrojů tak jasný názor jako ostatní. Andrej Karpathy je spoluzakladatelem OpenAI a byl vedoucím oddělení AI ve společnosti Tesla. Ačkoli dnes již ani v jedné z těchto společností nehraje aktivní roli, je referenčním partnerem a především nadšencem pro AI. To je vidět na kvalitě jeho výukových videí z této oblasti nebo na tom, jak své znalosti otevírá světu pomocí nástrojů, jako jsou minGPT nebo nanoGPT. Navíc jsme díky jeho kódu viděli tak obdivuhodné výtvory, jako je velký jazykový model běžící v systému Windows 98.
A přesto mu tato míra angažovanosti v oboru nezpůsobuje nerealistická očekávání, která má od umělé inteligence a jejích důsledků. To opět prokázal v prestižním podcastu Dwarkeshe Patela, kde v téměř dvouapůlhodinovém rozhovoru tento odborník zanechal množství citátů a dojmů o tomto odvětví.
Dekáda agentů
Karpathy nejenže věří v agenty, ale vymyslel termín „vibe coding“, který označuje programování pomocí umělé inteligence. V tomto smyslu říká, že Claudea a Codex denně hojně využívá. Říká, že tito první agenti „jsou působiví“, ale je před nimi ještě spousta práce a věří, že toto je desetiletí agentů, ale ne rok agentů, jak se říkalo o roce 2025.
Andrej Karpathy calls AI Agents slop
— Lisan al Gaib (@scaling01) October 17, 2025
"Overall, the models they are not there. And I feel like the industry […] it's making too big of a jump and it's trying to pretend that this is amazing.
And it's not—it's slop!
And I think they are not coming to terms with it. And maybe… pic.twitter.com/A1rH6pIIYw
V tomto smyslu, a v průběhu rozhovoru to několikrát komentuje, dochází v tomto odvětví k přehnanému předpovídání, kdy se často odhaduje, že se něco stane velmi brzy (jako například, že umělá obecná inteligence neboli AGI je za rohem).
„Modely ještě nejsou k dispozici. Mám pocit, že průmysl dělá příliš velké skoky a snaží se předstírat, že je to úžasné, i když to tak není. Je to lajdáctví. Nedokážou se vyrovnat s realitou a možná to dělají proto, aby přilákali investice nebo tak něco, nevím. Ale jsme v přechodné fázi.“
Mnoho povyku pro nic?
V jedné pasáži dává Karpathy jasně najevo, že není pesimista, i když to tak zní. „Ve skutečnosti jsem optimista. Pesimisticky zním jen proto, že když se podívám na svou časovou osu na Twitteru, vidím všechny ty věci, které mi nedávají smysl.“ A dává nápovědu, co vysvětluje tolik přehnaných reakcí na Twitter – peníze. „Hodně z toho je, upřímně řečeno, jen shánění peněz. Jsou to jen motivační struktury. Hodně z toho je jen pozornost, přeměna pozornosti na peníze na internetu.“
Reinforcement learning je technika, při níž se umělá inteligence učí metodou pokusů a omylů: provádí akce, dostává odměny nebo tresty a upravuje své chování tak, aby maximalizovala budoucí odměny. Bylo klíčové pro průlomové objevy, jako je AlphaGo, nebo pro optimalizaci velkých modelů, jako je Deepseek, ale Karpathy si myslí, že jeho způsob „odměňování na konci“ je na hony vzdálený tomu, jak uvažují lidé.
Pro Karpathyho je to „hrozné“ a přirovnává to k „sání dohledu brčkem“: veškeré úsilí modelu je shrnuto do jediného konečného čísla (ať už se trefil, nebo ne), což generuje spoustu šumu. Podle něj se lidé takto neučí: neděláme sto slepých pokusů a nepřikládáme každému mezikroku stejnou hodnotu. Budoucnost podle něj spočívá v „dohledu nad procesy“, kdy model dostává průběžnou zpětnou vazbu. Přiznává však, že zatím nevíme, jak to automatizovat, aniž by systémy našly pasti (protichůdné příklady), jak podvádět.
Karpathyho přístup poukazuje na realitu ve vývoji umělé inteligence: je třeba upravit naše očekávání a uvědomit si, že ačkoli bylo dosaženo významného pokroku, stále jsme daleko od dosažení umělé inteligence, která by fungovala podobně jako člověk. Umělá obecná inteligence (AGI), což je schopnost stroje pochopit nebo se naučit jakýkoli intelektuální úkol, který dokáže člověk, zůstává vzdáleným a složitým cílem.
Bezbřehé nadšení a humbuk kolem umělé inteligence navíc nepochází pouze od technologických společností, ale také od médií a široké veřejnosti, která si často pokroky v oblasti umělé inteligence mylně vykládá tak, že AGI je již za rohem. Toto nepochopení může vést k rozčarování, když se očekávání nenaplní, což podtrhuje význam jasné a realistické komunikace o tom, co AI v současné době umí a co ne.