Kombinace zlovolných aktérů a nejmodernějších nástrojů umělé inteligence představuje podle Billa Gatese nejnebezpečnější zbraň, jakou lidstvo kdy poznalo. Takto se vyjádřil spoluzakladatel společnosti Microsoft.
Stalo se tak během jeho nedělního vystoupení v pořadu Meet the Press televize NBC, který moderovala Kristen Welkerová, a kde neváhal riziko vyčíslit:
Umělá inteligence je rozhodně dostatečně výkonná na to, aby vyvolala události, které způsobí miliardu úmrtí.
Postupně se zpřísňující postoj
Postoj Gatese k umělé inteligenci prošel výraznou proměnou od doby, kdy se na konci roku 2022 na technologické scéně objevil ChatGPT. V květnu 2023 se vyslovil proti jakémukoli moratoriu na vývoj s tím, že zastavení pouze odpovědných aktérů by bylo kontraproduktivní. O dva měsíce později na svém osobním blogu označil nebezpečí této technologie za „reálná, ale zvládnutelná“. V eseji zveřejněné koncem srpna letošního roku se však jeho tón stal mnohem pesimističtějším: Gates varuje, že „mnoho pracovních míst navždy zmizí“, a navrhuje konkrétní opatření, jako je vyhrazení určitých úkolů výhradně pro lidi nebo zdanění tokenů umělé inteligence – základních výpočetních jednotek, které tyto modely využívají – stejně jako robotů. Přes to vše Gates i nadále uznává obrovský pozitivní potenciál v oblastech, jako je zdravotnictví a vzdělávání, ačkoli zdůrazňuje, že umělá inteligence bude „největším vyrovnávačem, jaký byl kdy vynalezen“, nebo naopak „nejhorším zdrojem nespravedlnosti“.
Federální regulace: nutnost, nikoli volba
Během rozhovoru se Gates neomezil pouze na varování: nastínil také, co očekává od americké politické scény. Na přímou otázku, zda by Kongres měl schválit konkrétní legislativu, odpověděl jednoznačným „rozhodně“. „Nikdo si nemyslí, že samoregulace stačí,“ prohlásil a zároveň bagatelizoval možný ekonomický dopad nových předpisů, když jej popsal jako „mírnou zátěž“ pro firmy, která nestačí k tomu, aby významně brzdila inovace. Odmítl také myšlenku, že by stačilo mít k dispozici vypínač pro systémy umělé inteligence, a poukázal na to, že to zatím nestačí a že technologie ještě nedosáhla bodu, kdy by se systémy autonomně zmocnily počítačů a nebylo by možné je vypnout. Považuje za závažnou chybu nahlížet na umělou inteligenci jako na závod mezi národy a označil za „zcela nezodpovědné“ upustit od požadavku na bezpečnostní opatření a monitorování všech systémů.
Stále více rozdělené odvětví a politika
Gatesova slova zapadají do vlny varování, která otřásá jak Silicon Valley, tak Washingtonem. Dario Amodei, šéf společnosti Anthropic, na začátku měsíce vyzval ke zpomalení tempa vývoje nejpokročilejších modelů, což podpořili i Sam Altman a Elon Musk. Vnitřní napětí v samotných společnostech vyšlo najevo, když Jacob Coxon opustil společnost Anthropic a obvinil jak tuto firmu, tak OpenAI z toho, že „si hrají s našimi životy“. Na legislativní úrovni předložil senátor Bernie Sanders 23. září návrh zákona, který by nařídil dočasné pozastavení vývoje pokročilé umělé inteligence, zatímco Donald Trump se staví proti jakýmkoli omezením z obavy, že by USA ztratily technologický náskok před Čínou.
Rozhovor měl i svůj odlehčující moment. Když se Welker zeptal, zda existuje nějaká oblast, ve které Gates raději umělou inteligenci nepoužívá, magnát s humorem odpověděl: nepoužívá ji ve svých osobních vztazích a ani se jí neptá, jestli je dobrý člověk.