Máte stále častěji pocit, že lidstvo má k dispozici technický pokrok, ale chybí mu k němu morální záklopka a ryzí chápání pokroku? Že jsme na to, co máme prostě ještě hloupí? Patrně to vnímáte správně. Za všemi debatami o AI a konci světa stojí právě toto. Předbíháme svůj vývoj technickým pokrokem. Právě na vývoji umělé inteligence je to znát nejvíce.
Vědci varují, že rychlý pokrok v oblasti umělé inteligence a neurotechnologií předbíhá naše chápání vědomí a vytváří vážná etická rizika.
Rozhlédneme-li se kolem sebe, covid nám mohl dát mnoho dobrého. Ve vnímání onemocnění, schopnosti a možností regenerace lidí. Dnes opět chodí nemocní do práce, dnes jsou znovu lidé s chřipkou vydíráni zaměstnavateli a tlačeni do kouta finančně. Jen málo škol využilo online výuku a některé její části implantovalo do běžné výuky. Vše, co nám covidová doba dala a mohlo být využito pro ulehčení života, se pomalu vrátilo do starých, často nevyhovujících, kolejí.
Je naivní očekávat, že AI bude využita pouze a jen ku prospěchu. Smutné? Ano, a vědci se také k této možnosti přiklání.
Jsme hloupí na to ji používat.
Vůbec nevíme, co je vědomí
Vědci se obávají především etického porušování hranic. Pokrok v oblasti umělé inteligence a neurotechnologií postupuje rychleji než vědecké chápání vědomí. Pokud nyní nevíme, jak definovat lidské vědomí, nemůžeme ani spolehlivě říci, jestli AI má potenciál mít vědomí.
„Věda o vědomí už není čistě filozofickým zkoumáním. Má skutečné důsledky pro každou stránku společnosti – a pro pochopení toho, co znamená být člověkem,“ řekl hlavní autor studie profesor Axel Cleeremans z Université Libre de Bruxelles.
„Pochopení vědomí je jednou z nejvýznamnějších výzev vědy 21. století – a nyní je naléhavé kvůli pokroku v umělé inteligenci a dalších technologiích.“ Dodává, že se může stát, že vědomí mimo lidský mozek bude vytvořeno náhodou během vývoje umělé inteligence. To by vyvolalo obrovské etické výzvy i existenční riziko.
Vědomí je doposud charakterizováno jako uvědomění si světa kolem nás. Vědci se ale stále neshodují v tom, jak přesně souvisí s biologických procesů v tělech.
Jsou identifikovány konkrétní oblasti mozku a nervové aktivity, který jsou spojeny s vědomým prožíváním, stále je však více otázek než odpovědí. Jakým způsobem vzniká bdělost a jak funguje. Je vůbec toto vědomí, nebo je to nakonec něco zcela jiného a tato definice je špatná? I takové názory se mezi vědci vyskytují.
Strojně nebo laboratorně vytvořené vědomí není totiž úplné sci-fi. Vývoj přístrojů, které dokáží vědomí popsat, najít a změřit, je klíčový. Poté by se dalo zkoumat, jaké vědomí mají zvířata, plody zvířat, lidé s poraněním mozku nebo demencí. V medicíně by se pak díky těmto výsledkům dala zlepšit péče o tyto pacienty nebo pro vyvinutí lepších terapií pro pacienty s duševním onemocněním. Zatím však takový přístroj k dispozici není a někteří se domnívají, že ani nikdy nebude. Narážíme na problém: nevíme, co přesně by měl testovat.
„Pokrok ve vědě o vědomí změní to, jak vnímáme sami sebe a jak náš vztah k umělé inteligenci, tak k přírodnímu světu,“ řekl spoluautor studie profesor Anil Seth z University of Sussex a držitel grantu ERC.
Vzhledem k tomu, že stále více lidí používá asistenty a chatboty s umělou inteligencí pro každodenní úkoly, objevuje se kuriózní jev: stále více uživatelů vnímá své chatboty nejen jako inteligentní nástroje, ale jako vědomé entity , které jsou nějakým způsobem živé.
S upadající emoční inteligencí je i tohle riziko. V mnohých komunikacích je skutečně pro nejednoho člověka umělý chat lepší a vnímavější než člověk. Lidé většinou jen čekají na to, až budou moci mluvit o sobě. Chat věnuje plnou pozornost vám a zpracovává dostupně známé informace o vašem problému. Navíc trpíme tzv. antropomorfismem, což je vrozená snaha polidšťovat věci kolem. Pojmenováváme psy, hurikány, říkáme, že notebook spí, máme chytré telefony i viry… to však neznamená vždy znehodnocení našich poznatků.
Svou AI si tak trochu přizpůsobíme sobě samému, čímž nám také více rozumí a souzní.
Je AI rozšířeným vědomím nás samých?
Stejně jako popis a výběr postavy do počítačové hry je prodloužením naší vlastní ruky a vědomí, stylizujeme se do ní, může podobnou funkci vykonávat i chatbot. Nejspíše nehrozí, že by se umělá inteligence spikla proti lidstvu ve svém vlastním nezávislém jednání. Horší je riziko zneužití lidmi.
Panel, který bude taková posouzení činit, musí zahrnovat programátory, psychology, právníky, filozofy – a především samotné uživatele. Otázka, co znamená být vědomý, nebyla nikdy naléhavější – ani znepokojivější.
Rizikem je také chyba. Dát do rukou AI pravomoce je lákavé, ale co když chybuje například v bezpečnostních systémech řízených právě jí?
Že lidé neumí s AI zacházet? Dejte jim obrázky, udělají porno
Dejte lidem něco užitečného a začnou vymýšlet, jak to zneužít. Umělá inteligence je dnes už využita pro nepovolené sbírání dat, k tvoření deepfake videí a hudby a jejich zneužívání k podvodům, zdokonalují se kyber útoky, lépe se šíří falešný a manipulativní obsah. Hybridní války se v tomto prostředí vedou jedna radost. A to je jen viditelný vrchol ledovce. Zcela jistě někde ve skrytu již probíhají přípravy na daleko dokonalejší zločiny, kde je reální i to, že sama AI vymyslí dokonalý zločin. Pro někoho. Nabízí se otázka, jestli sama AI, pokud by měla vědomí, by měla svou vlastní morálku, která by takový zločin nedopustila.
Jenže stále platí, že umělá inteligence bude postavena právě na tom, čím ji lidé „nakrmí“.