Průkopník umělé inteligence odchází ze společnosti Google, aby varoval před riziky svého vlastního výtvoru: Podomácku vyrobené biologické zbraně a konec lidské nadvlády jsou blíž, než si myslíme.
Geoffrey Hinton, považovaný za „kmotra“ umělé inteligence, vydal varování, které by mělo přimět celou společnost k zamyšlení. V rozsáhlém rozhovoru britský vědec vyjádřil své nejhlubší obavy o budoucnost lidstva tváří v tvář nezadržitelnému pokroku umělé inteligence. Jeho slova nenechávají nikoho na pochybách o rozsahu výzvy, které čelíme.
Jak uvedl deník Financial Times, Hinton byl ve svých prohlášeních kategorický: „Zanedlouho bude náhodný člověk s pomocí umělé inteligence schopen vyrobit biologické zbraně“. Vědec, který v roce 2023 opustil společnost Google, aby mohl o těchto rizicích svobodně hovořit, přirovnává současnou situaci k tomu, že by si někdo mohl doma vyrobit jadernou bombu. Je to vyhlídka, ze které se ježí vlasy na hlavě.
Znepokojivý rozhovor
Setkání se uskutečnilo v torontském gastropubu Richmond Station, kde Hinton souhlasil, že bude dvě hodiny hovořit o budoucnosti umělé inteligence. Tam, obklopen každodenním shonem, který kontrastuje s transcendencí jeho slov, vědec prohodil úvahu, která vystihuje jeho duševní rozpoložení:
Související článek
„Nacházíme se v bodě dějin, kdy se děje něco neuvěřitelného, a může to být neuvěřitelně dobré, nebo neuvěřitelně špatné.“
Hinton není jen tak ledajaký apokalyptik. Je to člověk, který po více než dvě desetiletí na Torontské univerzitě pokládal základy dnešních systémů umělé inteligence. Algoritmy inspirované architekturou lidského mozku, které vyvinul v 80. letech, kdy v jejich potenciál věřil jen málokdo, jsou dnes páteří ChatGPT a podobných systémů. Pohled na to, jak jsou tyto technologie integrovány do každodenního života milionů lidí, je pochopitelně znepokojující.
Pro Hintona je debata o tom, zda tyto stroje disponují skutečnou inteligencí, u konce. „Pokud na ně mluvíte a kladete jim otázky, rozumí vám. V technické komunitě je jen velmi málo pochyb o tom, že tyto věci budou stále chytřejší a chytřejší,“ říká. To však vyvolává ještě znepokojivější otázku: Jak si udržíme kontrolu nad systémy, které jsou mnohem chytřejší než my? Jeho analogie je výmluvná: existuje pouze jeden případ, kdy méně inteligentní bytost kontroluje inteligentnější bytost, a to je vztah matky a dítěte.
Vědec považuje umělou inteligenci za dvousečnou zbraň, která by mohla radikálně proměnit naši společnost. Na jedné straně je nadšen jejími aplikacemi ve zdravotnictví a vzdělávání, osobně poznamenán ztrátou dvou manželek kvůli rakovině. Na straně druhé předvídá scénář masové nezaměstnanosti a koncentrace bohatství, kdy „hrstka lidí bude mnohem bohatší a většina chudší“. Podle něj není na vině technologie, ale kapitalistický systém, který ji přijímá.
Kritika Altmana i Muska
Jeho kritika se týká i současných vedoucích představitelů odvětví. Hinton je skeptický vůči lidem jako Sam Altman a Elon Musk a vyjadřuje se, že dává přednost politikům s technickým vzděláním. Po nedávné návštěvě Šanghaje zdůrazňuje, že „Čína bere umělou inteligenci vážně“, protože její politici jsou inženýři, kteří této technologii rozumí tak, jak západní právníci a marketéři nemohou.
Hinton také vyjádřil obavy z využití AI při masovém sledování a sociální kontrole, což jsou praktiky, které se již v některých částech světa uplatňují. Takové aplikace by mohly narušit osobní svobody a zvýšit moc autoritářských vlád, což vyvolává vážná etická a politická dilemata.
Stejně jako varuje v jiných svých nedávných prohlášeních, i Hinton se obává, že pokrok umělé inteligence povede k vzestupu fašismu v naší společnosti, přičemž rizika nesoustředí na technologii, ale na ekonomický model, který ji přijme.
Průkopník umělé inteligence se nevyhýbá ani použití vlastních výtvorů. Přiznává, že ChatGPT používá k výzkumu a k drobným každodenním úkonům, jako je oprava domácích spotřebičů. Dokonce se přiznává, že AI stála v centru jeho posledního rozchodu, kdy jeho partnerka požádala chatbota, aby jí vysvětlil „nepříjemnosti“ v jeho chování. „Moc se mě to nedotklo, protože jsem si nemyslel, že jsem myš,“ žertuje s typickým britským humorem.
Hlubší úvahy však přicházejí, když mluví o budoucnosti našeho druhu. Jak zdůraznil ve svých dalších projevech, Hinton věří, že biologická inteligence by mohla ustoupit digitální inteligenci a potom „už nás nebude potřeba„. Perspektiva, která vyvolává existenciální otázky o roli lidstva ve světě ovládaném superinteligentními stroji.
Co přinese budoucnost umělé inteligence?
Navzdory svému odkazu a zkušenostem vědec zdůrazňuje, že tento vývoj provází obrovská nejistota: „Nevíme, co se stane. Pokud někdo tvrdí opak, je směšný. Můžeme přijímat sázky, ale všechno se změní“. Kritizuje nedostatek vládních opatření na Západě a na otázku, jak zůstat pozitivní, odpovídá upřímně: „Kdyby přišla mimozemská invaze, ptali byste se, jak zůstat optimističtí?
Jeho slova posilují myšlenku, že lidstvo netuší, co stvořilo, a že poprvé v historii nebudeme nejinteligentnějším druhem na planetě. Skutečnost, která podle něj přijde mnohem dříve, než si většina lidí představuje.
Geoffrey Hinton dochází k závěru, že lidstvo se musí vyrovnat s rozsahem výzev, které umělá inteligence představuje: od etických dilemat po riziko autonomních zbraní, od masivní ztráty pracovních míst po možnou proměnu toho, co znamená být člověkem. Jeho poselství je jasné: nacházíme se na historické křižovatce, kde budoucnost může být buď úžasně dobrá, nebo úžasně špatná. Základní otázkou už není, jak umělou inteligenci využít, ale jak ji přežít.
V této souvislosti je zásadní, aby vlády, podniky a občanská společnost spolupracovaly na vytvoření předpisů a etických směrnic, kterými se bude řídit vývoj a zavádění umělé inteligence. To zahrnuje vytvoření právních rámců, které chrání lidská práva a zajišťují spravedlivé rozdělení přínosů umělé inteligence. Pro řešení těchto globálních výzev a zajištění budoucnosti, v níž technologie slouží společnému dobru, bude nezbytná mezinárodní spolupráce.