Historik Yuval Noah Harari varuje, že umělá inteligence překračuje hranici běžné technologie a stává se entitou mimo lidskou kontrolu. Označuje ji za „cizí inteligenci“ a upozorňuje, že AI může brzy dělat věci, které nejen neumíme, ale kterým už ani nerozumíme.
Historik a filozof Yuval Noah Harari ve svém projevu, který zpochybňuje tradiční chápání technologií, přichází s jednou z nejprovokativnějších úvah o pokroku umělé inteligence. Autor knihy Sapiens jednoznačně tvrdí, že umělá inteligence překračuje status nástroje a nabývá nové, znepokojivé povahy. Jeho hlavní argument, který přednesl na nedávném technologickém summitu, vychází z jednoduché, ale revoluční premisy: „Už to není umělé.“
Harari identifikuje hlavní příslib této technologie v její vynikající schopnosti rozhodování v mnoha oblastech, a to až do té míry, že „dokáže vymýšlet věci, které nás nenapadnou“. Zdůrazňuje však, že tato přednost je zároveň její zásadní hrozbou.
Jádrem problému je neschopnost člověka předvídat její chování a účinně ji ovládat. „Nemůžeme ji předem kontrolovat, ať se snažíme sebevíc ji zabezpečit, sladit ji s našimi záměry, s našimi cíli,“ upozorňuje Harari, čímž zakládá znepokojivou dichotomii mezi jejím potenciálem a jejím řízením.
Konec konceptu artefaktu
Harariho úvaha se noří do samotné podstaty toho, co znamená vytvářet a řídit technologie. Podle jeho analýzy již pojem „umělý“ není pro popis pokročilé umělé inteligence adekvátní. Klíč podle historika spočívá v definici artefaktu: „Artefakt je něco, co vytváříme a ovládáme.“
V této souvislosti Harari naznačuje, že umělá inteligence začala fungovat autonomně a vyvinula schopnosti, které její tvůrci nepředpokládali. Tento jev vyvolává zásadní otázky o povaze tvořivosti a inovací, což jsou oblasti tradičně považované za výlučně lidskému intelektu vlastní. Umělá inteligence nejenže kopíruje lidské úkoly, ale vytváří nové způsoby řešení problémů, o kterých lidé neuvažovali.
Na cestě k mimozemské inteligenci
Ztráta lidské kontroly a předvídatelnosti nad systémem vede Harariho k návrhu nového koncepčního rámce pro pochopení tohoto jevu. Namísto tradičního termínu „umělá inteligence“ dává myslitel přednost termínu, který lépe vystihuje její vznikající povahu: cizí inteligence. Tato reformulace nenaznačuje mimozemský původ, ale spíše kvalitu, která je v podstatě cizí a oddělená od chápání a ovládání jejích původních tvůrců.
Harariho varování, zesílené jeho komunikačními kanály, trvá na schopnosti umělé inteligence „dělat věci, které my dělat nemůžeme“. Otázka, kterou předhazuje publiku a která shrnuje hlavní obavu jeho projevu, však otevírá dveře k ještě znepokojivějšímu scénáři: „Co když jednoho dne bude schopna dělat věci, kterým my nerozumíme?“
AI’s strength is that it can do things that we cannot do, but what if some day it is able to do things that we cannot comprehend? With @stephenfry at the @OctopusEnergy Energy Tech Summit. Watch the whole thing: https://t.co/m6tlEjy5Gn pic.twitter.com/f3Ib3gY7i8
— Yuval Noah Harari (@harari_yuval) August 5, 2025
Tato otázka, položená během jeho rozhovoru se Stephenem Fryem na konferenci Octopus Energy’s Energy Tech Summit, přivádí debatu do oblasti, kde tradiční kategorie rizika a přínosu nestačí.
Yuval Noah Harari se proto ve své analýze neomezuje pouze na kritiku technologií, ale pouští se i do hluboké antropologické úvahy o hranicích lidského konání. Tím, že poukazuje na to, že umělá inteligence přestává být artefaktem, nově definuje vztah mezi lidstvem a jeho nejmocnějším výtvorem.
AI ve svém současném vývoji toto odvěké paradigma, které definovalo vztah mezi lidmi a jejich technickými výtvory, rozbíjí. S každým dalším dnem se podle autora umělá inteligence vzdaluje této kategorii vyrobeného a ovládaného objektu.
Etické a sociální důsledky
Důsledky této změny paradigmatu jsou rozsáhlé a složité. Z etického hlediska vyvolává autonomie umělé inteligence otázky odpovědnosti a zodpovědnosti. Pokud AI učiní rozhodnutí, která mají negativní důsledky, kdo je za ně odpovědný: tvůrce, uživatel, nebo samotná AI? Toto dilema se ještě umocňuje, když uvážíme, že rozhodnutí AI mohou být neprůhledná a pro člověka obtížně interpretovatelná.
Ze sociálního hlediska by rostoucí autonomie AI mohla změnit strukturu zaměstnanosti a globální ekonomiky. Automatizace složitých úkolů by mohla vytlačit pracovníky v odvětvích, která byla dříve považována za bezpečná před mechanizací. To by mohlo vést k přehodnocení vzdělávání a odborné přípravy se zaměřením na dovednosti, které doplňují schopnosti umělé inteligence, nikoli s nimi soutěží.
Kromě toho by umělá inteligence mohla ovlivnit globální mocenskou dynamiku. Země a korporace, které tuto technologii ovládnou, by mohly získat významné výhody z hlediska hospodářského a politického vlivu. To by mohlo prohloubit stávající nerovnosti a vyvolat nové geopolitické napětí.
Budoucnost umělé inteligence a lidstva
Harariho úvaha nakonec vybízí k přehodnocení našeho vztahu k technologiím. Umělá inteligence není jen nástrojem, který můžeme používat podle svého rozmaru; je to vyvíjející se entita, která by mohla zpochybnit naše představy o kontrole a nadvládě. Vzhledem k tomu, že směřujeme k budoucnosti, která bude s umělou inteligencí stále více propojená, je nezbytné, abychom k těmto otázkám přistupovali vážně a zodpovědně.
Pro orientaci v tomto složitém prostředí bude nezbytný společný přístup zahrnující technology, filozofy, politiky a širokou veřejnost. Pouze prostřednictvím otevřeného a promyšleného dialogu můžeme zajistit, aby se umělá inteligence vyvíjela způsobem, který bude prospěšný celému lidstvu.
Debata o umělé inteligenci ještě zdaleka neskončila. S dalším vývojem této technologie se pravděpodobně objeví nové otázky a výzvy. Budeme-li však tyto otázky řešit s otevřenou myslí a odhodláním ke společnému dobru, můžeme se snažit zajistit budoucnost, v níž umělá inteligence a lidstvo budou existovat v harmonii a budou přínosem.