AGI – umělá obecná inteligence – už není jen námětem sci-fi. Z rychlého rozvoje AI, jaký ukázal ChatGPT, se stává skutečná debata o budoucnosti civilizace. Odborníci jako Daniel Kokotajlo se snaží načrtnout časovou osu, ale většina se shoduje jen na jednom: předpovědi jsou extrémně nejisté.
Internetu trvalo zhruba 13 let, než dosáhl miliardy uživatelů. ChatGPT to trvalo méně než dva. Dnes o této službě s umělou inteligencí mluvíme, jako by byla součástí našeho každodenního života už desítky let, přitom existuje teprve od konce roku 2022. Tři krátké roky stačily k tomu, aby se veřejná konverzace posunula od „co to je?“ k „jak jsme bez toho žili?“. A přitom to, co máme dnes, by mohlo být jen předkrmem: příchod „AGI“ by byl dalším skokem, který by vše skutečně změnil.
Myšlenka umělé obecné inteligence, umělé inteligence schopné vykonávat jakýkoli kognitivní úkol, který může vykonávat člověk, přešla ze science fiction do vážné diskuse mezi vědci, technologickými společnostmi a politiky. Tato pokročilá forma umělé inteligence (známá jako AGI ) by nejen vykonávala instrukce, ale také by se učila, uvažovala, tvořila a automatizovala svůj vlastní vývoj. Teoreticky by mohla přejít od nástroje k samostatnému agentovi v rámci limitů, které jí stanovíme – pokud tyto limity budou fungovat.
What does AGI mean? (from a long-time AI researcher)
byu/heuristic_al inChatGPT
Související článek
Na rozdíl od systémů umělé inteligence, které známe dnes, jako jsou velké jazykové modely, které mohou psát text, překládat jazyky nebo generovat obrázky, by AGI nebyla omezena na konkrétní úkoly. Byla by schopna učit se od lidí a jiných AI, uvažovat o nových problémech, navrhovat originální řešení a dokonce vyvíjet další systémy AI… Stručně řečeno: měla by digitální děti a vzdělávala by je. A vzdělávejte je. Jinými slovy, nejenže by používala nástroje: navrhovala by je, zdokonalovala a rozhodovala, kdy je to vhodné.
Toto rozlišení je klíčové, protože dnešní systémy jsou sice „inteligentní“ v konkrétních úkolech, ale nemyslí a nerozumí světu jako člověk. Nemají robustní zdravý rozum, nemají autobiografickou paměť, nemají tělo, které by je naučilo, co je zima, co je bolest nebo co znamená čekat. Spoléhají se na rozsáhlé korpusy dat a algoritmy vyškolené člověkem (např. ChatGPT a jeho nástupci). Přechod od specializovaných ke skutečně obecným modelům zahrnuje hluboké technické výzvy, které dosud nebyly vyřešeny: od toho, jak flexibilně reprezentovat znalosti světa, až po to, jak zajistit, aby se tak výkonný systém řídil našimi pokyny, i když nám krátkodobě nevyhovují.
Tato debata přesahuje technické aspekty: vyvolává otázky týkající se budoucnosti práce, globální bezpečnosti a v krajním případě i samotného přežití člověka. Klíčovou otázkou je, kam až se umělá inteligence osvobodí od lidského vlivu. A jak… Bude misogynní, rasistická, elitářská, mstivá…? Protože pokud se od nás bude učit, naučí se i naše předsudky, nerovnosti a formy násilí. A pokud bude mocnější než my, zesílí to všechno v nebývalém měřítku.
Od science fiction ke kalendáři: Scénář AI 2027
Počátkem roku 2025 publikoval odborník na umělou inteligenci Daniel Kokotajlo, bývalý zaměstnanec OpenAI a vlivný hlas v komunitě zabývající se bezpečností umělé inteligence (spolu se Scottem Alexanderem, Thomasem Larsenem, Eli Liflandem a Romeem Deanem, rovněž vědci specializujícími se na dopady umělé inteligence) článek s názvem AI 2027. V něm se autoři odvažují uvádět data a popisují možný svět ovládaný nadlidskými systémy AI: „Předpovídáme, že dopad nadlidské AI v příštím desetiletí bude obrovský a překoná dopad průmyslové revoluce,“ uvádí se v dokumentu.
Co to znamená v praxi? Kokotajlův tým v podstatě vykresluje časovou osu, v níž Čína a USA soupeří (politicky, technologicky a sibylsky) o budoucnost AI. Soukromé laboratoře, vlády a armády soupeří o stále výkonnější modely, zatímco regulace přichází pozdě a špatně. Dokud v roce 2027 nepřijde AGI, která vše „obrátí naruby“ a ohrozí lidstvo. V jeho příběhu AI nejen programuje lépe než kterýkoli inženýr, ale koordinuje zdroje, navrhuje nové technologie a stává se de facto geopolitickým aktérem.
Za rok se však stane mnoho a ve své poslední aktualizaci Kokotajlo uvádí, že „věci se zřejmě vyvíjejí poněkud pomaleji, než se ve scénáři AI 2027 předpokládalo“, a nyní klade možnost vzniku AI se schopností autonomního programování do roku 2030, přičemž předběžný horizont pro plnou superinteligenci je kolem roku 2034. Jinými slovy, stále si myslí, že revoluce přijde, ale ne tak rychle, jak si představoval.
Tato úprava reaguje, jak zdůraznil, na zjištění, že pokrok v oblasti umělé inteligence je nelineární a podléhá skutečným složitostem ve výkonnosti a praktickém použití, které často přehlížíme, pokud sledujeme pouze tempo pokroku v laboratorních modelech nebo benchmarcích. Zjednodušeně řečeno, pokrok může fungovat u mikročipů a počtu tranzistorů a výkonu (známý jako Moorův zákon), ale v případě umělé inteligence je to složitější. Zvětšování velikosti modelu nebo množství dat samo o sobě nezaručuje, že se v reálném světě objeví schopnosti „podobné lidským“, jako je hluboké kauzální uvažování nebo zdravý rozum.
Co si myslí další experti
Vývoj Kokotajlových předpovědí ilustruje něco důležitého o této oblasti: neexistuje shoda na tom, kdy by AGI mohla přijít. Dokonce i mezi odborníky se časové horizonty značně liší. Jsou tací, kteří věří, že by se mohla objevit již v tomto desetiletí, a ti, kteří ji považují za projekt na celá staletí, pokud je to vůbec možné.
Například studie vedená filozofem Nickem Bostromem (Oxford), v níž byly dotazovány desítky odborníků, naznačuje, že k rozvoji AGI by mohlo dojít někdy mezi 40. a 70. lety 21. století… To je tak široké rozpětí, že se prakticky rovná tvrzení: „nevíme, ale není nerozumné, aby k tomu došlo za života těch, kteří jsou dnes mladí“.
Jiné práce ukazují podobným směrem. Průzkum AI Impacts z roku 2022 mezi výzkumnými pracovníky zabývajícími se strojovým učením odhadl střední pravděpodobnost dosažení systémů schopných automatizovat „všechny lidské úkoly“ do poloviny století na přibližně 50 %, i když s velkými rozdíly mezi jednotlivými účastníky. A zároveň se ozývají hlasy, jako je průkopník Yann LeCun (Meta), které tvrdí, že jsme stále ještě daleko od vědeckého poznání inteligence, které by umožnilo vážně hovořit o AGI v blízké budoucnosti.
Jediná předpověď, na které se zdá, že panuje určitá shoda, je, že předpovědi jsou velmi nespolehlivé. Historie technologií je plná příkladů průlomových objevů, které přišly dříve, než se očekávalo (sekvenování lidského genomu), a jiných, které se opozdily o desítky let (autonomní automobily páté úrovně, které byly „za pět let“ před více než deseti lety). AGI by se mohla vydat některou z těchto cest.
Debata o tom, kdy se dočkáme příchodu obecné umělé inteligence, je podle mého názoru fascinujícím zrcadlem, které odráží naše naděje i obavy z budoucnosti. Vidíme, jak rychle se AI vyvíjí – od internetu k miliardě uživatelů trvalo 13 let, ChatGPT to zvládl za necelé dva. Tento exponenciální růst dává některým expertům pocit, že AGI je za rohem, byť nyní své předpovědi mírní. Ale pak je tu druhá strana mince. K pochopení inteligence nám stále chybí hluboké vědecké poznání. AGI není jen větší a rychlejší verze současných modelů; je to kvalitativní skok k systému, který skutečně myslí, uvažuje a učí se jako člověk. A právě tady se láme chleba. Zvětšování modelů samo o sobě nezajistí zdravý rozum nebo hluboké kauzální uvažování. Jak ukazuje historie technologií, předpovědi jsou notoricky nespolehlivé. Proto si myslím, že je klíčové dívat se na rok 2030 spíše jako na ambiciózní milník pro intenzivní výzkum a vývoj, než jako na jistý termín apokalypsy nebo utopie. Musíme být připraveni, ale bez paniky, s vědomím, že cesta k AGI je plná neznámých proměnných.