Strach z toho, že se stroje probudí a obrátí se proti nám, už desítky let pohání jak science fiction, tak v poslední době i obchodní strategie technologických gigantů.
Nyní se ozývá hlas ze samého srdce tohoto byznysu, který vysílá hlasitý vzkaz: nic takového se nestane. Alexander Lerchner, vedoucí výzkumný pracovník společnosti Google DeepMind, tvrdí, že umělá inteligence není strukturálně schopna dosáhnout vědomí, bez ohledu na to, kolik prostředků bude investováno do jejího rozšiřování.
Simulovat neznamená být: analogie s meteorologem
Pro pochopení Lerchnerovy teze je užitečné uchýlit se k jednoduchému přirovnání. Představte si model počasí, který dokáže s úžasnou přesností předpovědět, kolik litrů vody spadne příští týden a v jaké oblasti přesně. Ať je tento simulátor jakkoli dokonalý, nikdy nebude samotným deštěm. Přesně totéž platí pro umělou inteligenci: může stále přesvědčivěji napodobovat vědomé chování, ale to z ní ještě nedělá myslící nebo cítící entitu.
Lerchner tuto debatu dynamizuje. Jeho hlavním argumentem je, že představa, že by robot mohl mít strach ze smrti nebo že by se ho dotýkalo, jak se s ním komunikuje, je prostě absurdní. Nezáleží na tom, jak velký výpočetní výkon je vybudován nebo kolik dat je do systému dodáno, protože umělá inteligence bude vždy závislá na vnějším činiteli, který jí bude diktovat pravidla chování. Neexistuje žádná technická cesta od simulace ke skutečné zkušenosti.
Související článek
Základní problém je filozofický, nikoli technologický
Zarážející je, že toto prohlášení pochází z laboratoří společnosti Google, tedy společnosti, která má obrovský ekonomický zájem na tom, aby společnost nadále věřila, že budoucnost superinteligentních strojů je za rohem. Lerchner však upozorňuje, že filozofický přístup, na němž je toto vyprávění postaveno, je od základu chybný. Nejde o problém nedostatečných dat nebo omezeného hardwaru: chybný je předpoklad, že škálování simulačního systému může někdy vytvořit něco kvalitativně odlišného od simulace.
Pozornost by se měla soustředit na podniky, nikoli na stroje
A proč by nás tato zdánlivě teoretická diskuse měla zajímat? Protože většina veřejné diskuse o umělé inteligenci se točí kolem toho, co s ní budeme dělat, kdy se něco pokazí. Odborníci varují před scénáři typu Skynet nebo HAL 9000, předpisy jsou psány s cílem omezit samotnou technologii a obrovské prostředky jsou věnovány na sladění systémů, které podle Lerchnera nikdy nebudou mít vlastní vůli. Tento přístup je podle něj hluboce chybný.
Pokud se umělá inteligence nemůže stát sebevědomou, pak je mimo etickou debatu. Relevantní otázkou není, co uděláme se strojem, ale co uděláme s těmi, kdo jej obsluhují. Google, OpenAI, Anthropic a další společnosti, které v tomto odvětví dominují, jsou těmi, kdo rozhodují o tom, jak se jejich modely chovají, co simulují a za jakým účelem. Skutečné nebezpečí nespočívá v tom, že Terminátor ožije; nebezpečí spočívá v těch, kteří simulaci programují za účelem zisku a snaží se vyhnout odpovědnosti za její důsledky.
Legislativní úsilí, jak vyplývá z tohoto myšlenkového směru, by se mělo soustředit na kontrolu těchto korporací se stejnou intenzitou, s jakou se dnes fantazíruje o regulaci inteligence, která ve skutečnosti nikdy nevznikne.