Tento historik patří k předním myslitelům, pokud jde o člověka a technologie.
Od té doby, co Yuval Noah Harari vydal knihu Sapiens: From Animals to Gods (Sapiens: Od zvířat k bohům), se etabloval jako jeden z těch prekérních mozků, které se vyplatí pozorně sledovat. Je to především díky jeho schopnosti propojovat minulost se současností, aniž by nutně upadal do teleologických argumentů. Ačkoli je vzděláním historik, vyplatí se sledovat i jeho práce, které nesouvisejí s historií, ale se současnými názory.
V tomto rámci je Harari poměrně náchylný k publikování názorových článků i k poskytování zajímavých rozhovorů. Při této příležitosti je na místě připomenout jeho článek v deníku The Guardian, v němž varuje před existenciálním nebezpečím umělé inteligence a který je součástí jedné z jeho posledních knih Nexus. I když je pravda, že někteří odborníci poukazují na to, že o žádné nebezpečí nejde.
Podle Harariho představuje umělá inteligence pro člověka absolutní existenční riziko a mohla by zpochybnit naši schopnost dalšího vývoje.
Riziko, které je třeba vzít v úvahu
„Umělá inteligence představuje pro lidstvo bezprecedentní hrozbu, protože je první technologií v historii, která je schopna sama rozhodovat a generovat nové myšlenky. Všechny předchozí lidské vynálezy sloužily k posílení postavení člověka, protože bez ohledu na to, jak mocný byl nový nástroj, rozhodnutí o jeho použití bylo vždy ponecháno na nás. Jaderné bomby samy o sobě nerozhodují o tom, koho zabít, ani je nelze vylepšovat či vymýšlet ještě silnější bomby samy o sobě,“ řekl Yuval Noah Harari
Harariho přístup není nijak zvláštní, protože jsme se již nesčetněkrát dočetli, že umělá inteligence může být pro člověka skutečným problémem, nikoliv jen podporou. V tomto směru se obává možnosti, že se AI bude rozhodovat sama a bude schopna vytvořit něco nového. Něco, co se zatím nepodařilo u žádného z našich vynálezů jako druhu, protože vždy záleželo na lidech, jak je využijí. Problém je v tom, že rozhoduje umělá inteligence.
Pro odborníka na myšlení navíc platí, že s tím, jak se UI vyvíjí a stává se neuvěřitelně inteligentní, bude nám a našemu způsobu myšlení také stále cizí a vzdálenější. Což ji bude činit cizí.
„Jak se UI vyvíjí, stává se inteligentnější, ale také cizí.“
Jeho pasáže mají daleko k existenciálnímu hédonismu, který Harari obvykle vyznává a jsou spíše pesimističtější, pokud jde o lidské schopnosti se s tím vypořádat. Dochází k závěru, že pokud se lidé v důsledku tohoto pokroku sami nevyhladí, vzniknou pravděpodobně digitální říše, které navždy vymažou naše soukromí. Něco, o čem se mluvilo již v minulosti, neboť se ujišťovalo, že umělá inteligence bude jedním z hlavních problémů demokracií v roce 2024, tedy v době velkých změn a voleb na globální úrovni.