Ani filozofické debaty o vědomí strojů, ani apokalyptické scénáře nejsou hlavním předmětem obav Billa Gatese. To, co mu skutečně nedá spát, je něco mnohem hmatatelnějšího: že malé skupiny lidí mohou využít umělou inteligenci k provedení kyberútoků na kritickou infrastrukturu nebo ke spáchání biologických útoků, které byly donedávna v dosahu pouze velmocí.
Dvacet let turbulencí
Spoluzakladatel společnosti Microsoft předpovídá přechodné období trvající přibližně dvě desetiletí, které otřese základy zaměstnanosti a společenského uspořádání.
Moje největší obava se týká tohoto dvacetiletého přechodného období, během něhož budou vítězové i poražení a dojde k mnoha změnám,
vysvětluje Gates, který na konci této cesty vidí hypotetickou ekonomiku hojnosti. Varuje však, že i ten nejlepší scénář bude znamenat období turbulencí srovnatelné s těmi nejintenzivnějšími v historii.
V tomto výhledu si automatizace nejprve podmaní intelektuální úkoly a poté se prostřednictvím humanoidních robotů rozšíří i na fyzické činnosti. Gates navrhuje opatření, jako je zkrácení pracovní doby nebo vyhrazení určitých profesí výhradně pro lidi.
Regulovat, než bude pozdě
V rozhovoru s Nilayem Patelem pro podcast Decoder, který byl zveřejněn tento čtvrtek, Gates zdůraznil, že tempo technologického pokroku daleko převyšuje schopnost vlád a institucí reagovat. Podnikatel lituje, že se stále diskutuje o tom, zda by úřady měly vůbec věnovat pozornost nebezpečím této technologie, a že dohled nadále závisí na dobré vůli firem. Tato situace se mu jeví jako pro nejnebezpečnější zbraň všech dob zjevně nedostatečná.
Odborníci na bezpečnost se shodují, že modely umělé inteligence bez adekvátních ochranných opatření představují největší bezprostřední nebezpečí. Gates to shrnuje takto: „Velké krátkodobé riziko skutečně pochází z modelů bez ochranných opatření,“ čímž naráží na systémy, jejichž bezpečnostní bariéry lze odstranit, aby mohly být využity ke zničujícím účelům. Konkrétní obavy se týkají útoků namířených proti bankám nebo elektrickým sítím.
Ani žaloby, ani samoregulace nestačí
Gates vylučuje dvě cesty, které jiní považují za dostačující. Na jedné straně odmítá, aby odpovědnost ležela výlučně na bedrech společností, které navíc mezi sebou zuřivě soutěží. Na druhé straně také nevěří, že hrozba soudních žalob bude účinnou brzdou.
Myšlenka, že budeme řídit bezpečnost AI prostřednictvím zákonů o odpovědnosti, bude považována za absurdní,
tvrdí a připomíná, že identifikace viníků útoku je již nyní nesmírně složitá a že obrátit se na soudy až po vzniku škody ji nezvrátí.
Místo toho navrhuje, aby nejvýkonnější modely povinně fungovaly na platformách navržených tak, aby zabránily odstranění jejich ochranných prvků a deaktivaci kontrolních mechanismů v případě, že je někdo upraví.
Agenti umělé inteligence: užiteční, ale zatím nedozrálí
Pokud jde o agenty umělé inteligence, tedy programy schopné autonomně provádět úkoly jménem uživatele, Gates uznává jejich obrovský potenciál a chválí Muse, vývoj společnosti Meta, i když předpokládá, že první kroky s sebou nevyhnutelně přinesou selhání. Jedním z možných řešení je přidání vnější bezpečnostní vrstvy, která stanoví přísná pravidla ohledně akcí a zdrojů, ke kterým mají tito agenti přístup, ale sám Gates připouští, že zatím neexistuje způsob, jak tuto izolaci zaručit.
Znepokojený, ale ne katastrofista
Navzdory závažnosti svých varování se Gates distancuje od těch, kteří se sami označují za „AI doomers“ – termínem pro ty, kdo se soustředí na nejkatastrofičtější scénáře umělé inteligence, včetně potenciální existenční hrozby pro celé lidstvo. Na přímou otázku Patela odpověděl rázně: „Ne, nejsem doomer.“