Autor knihy Sapiens je ohledně schopností umělé inteligence páchat zlo spíše pesimistický.
Yuval Noah Harari je jedním z nejvýznamnějších historiků současnosti. Ne však právě pro své historické bádání, ale pro svou schopnost vypracovat přehled vývoje lidstva. Jako takový je považován za skutečného vizionáře a jeho knihy se díky silným předpokladům prodávají nebývale rychle. Jako odborník na technologie lidstva Yuval hovoří také o umělé inteligenci, kterou v minulosti označil za bezprecedentní hrozbu pro lidstvo. Zároveň však nabízí poměrně příznivý pohled na pozitiva, která z ní lze vyvodit.
Odborník má však jasno. Domnívá se, že AI se může zcela vymknout naší kontrole, což je upřímně znepokojivé.
Propast AI
Jednou z hlavních obav, které izraelského myslitele a historika svírají, je právě bod, kdy se AI stane natolik inteligentní, že bude moci fungovat autonomně a zcela mimo naši kontrolu. Obecně mají všechny tyto otázky tendenci souviset se vznikem umělé obecné inteligence (AGI), tedy s bodem, kdy se UI vyvine v bytost, která nás převyšuje a je schopna obsáhnout veškeré lidské vědění.
Definice AGI jsou však poměrně mlhavé a prakticky každý odborník má svou vlastní. Jasné se zdá být pouze to, že jde o situaci, kdy člověk přestane být nejinteligentnějším druhem.
„Umělá inteligence se může ocitnout mimo naši kontrolu“ – Yuval Noah Harari.
Harari navíc v závěru uvádí jasné poselství, které sdílí řada světových odborníků na technologie: „Neříkám, že bychom měli zastavit vývoj této technologie, ale spíše bychom měli zajistit, aby byla bezpečná.“ Jde o jasné poselství, které se snaží, aby se umělá inteligence co nejvíce přiblížila realitě, aby byla etická a měla zájem na pravdivých informacích, a ne na šíření dezinformací a nekalých praktik. To by mohlo být skvělou živnou půdou pro fašismus, jak uvedl Geoffrey Hinton.
V rozhovoru pro RTVE tento odborník loni v září uvedl, že umělá inteligence může být mocnou zbraní pro dobro i zlo. Mohla by být například velmi užitečná k zamezení nedostatku lékařů a k podpoře těch, kteří již pracují v málo rozvinutých zemích. Může však být také prostředkem zla.