Když Bill Gates mluví o technologiích, svět má tendenci mu naslouchat. Tentokrát však jeho poselství příliš uklidňující není.
Spoluzakladatel Microsoftu uvedl čtyři konkrétní rizika spojená s umělou inteligencí, která, jak varuje, mohou radikálně změnit trh práce, digitální bezpečnost a kvalitu informací, které přijímáme.
Není to tak dávno, co umělá inteligence hrála v našem každodenním životě druhořadou roli: sloužila k překladu nesrozumitelných dokumentů, řešení školních úkolů nebo rychlému nalezení odpovědí na konkrétní otázky. Dnes je situace zcela jiná. Miliony lidí uznávají, že jsou na ní závislí při vaření, přípravě na pracovní pohovor, zvládání emocí, jako by to byl terapeut, nebo dokonce při rozhodování, co odpovědět v konverzaci přes WhatsApp.
Přesvědčivé odpovědi, které mohou být zcela nepravdivé
Snad nejzáludnějším nedostatkem umělé inteligence je její sklon k falšování informací se zdánlivou pravdivostí. Odborníci z oboru tento jev nazývají „halucinace“: jde o situace, kdy nástroje jako ChatGPT vyplňují mezery ve znalostech vymyšlenými údaji, které nicméně znějí naprosto souvisle.
To se promítá do doporučení míst, která neexistují, směsí skutečných faktů s fiktivními nebo do odpovědí formulovaných s naprostou jistotou na otázky, které systém jednoduše nezná.
Technologičtí experti radí jednoduchou strategii, jak tento problém minimalizovat: vždy vyžadujte ověřitelné zdroje. Užitečnou instrukcí je říci systému něco jako: „Pokud neexistuje primární zdroj, napište „nepotvrzené údaje“ a navrhněte, jak by mohly být ověřeny.„
Gates také připomíná další související problém: tyto modely se učí z obrovského množství dat, která již obsahují předsudky, takže mohou nakonec zesílit předsudky související s pohlavím, etnickou příslušností nebo identitou.
Trh práce se připravuje na dopad
To, že automatizace vytlačí z pracovních pozic lidské pracovníky, patří k nejrozšířenějším obavám v souvislosti s tím, jak se umělá inteligence prosazuje. Administrativní úkony, které dříve trvaly hodiny, jsou nyní díky stále sofistikovanějším algoritmům vyřešeny během několika sekund, což otevírá nové příležitosti, ale také zasévá nejistotu mezi pracovníky.
Technologický magnát věří, že tato transformace bude postupná, ale ne bezbolestná. Podle jeho analýzy budou odvětví, jako je zdravotnictví, vzdělávání a osobní péče, ještě dlouhá léta vyžadovat lidské ruce. I tak ale varuje, že velká část pracovníků bude nucena se rekvalifikovat, doplnit si dovednosti a přijmout jiné role, aby si udržela své místo na měnícím se trhu.
Deepfakes: když se lež stává nerozeznatelnou od reality
Dalším z hlavních Gatesových varování je šíření obsahu manipulovaného umělou inteligencí. Deepfakes- uměle generovaná videa, zvuky a obrázky, které je stále obtížnější odlišit od originálů – se již staly předmětem mnoha kontroverzí na sociálních sítích, jako je X.
Gates však varuje, že skutečné nebezpečí vzniká, když jsou tyto podvrhy nasazovány v politických hrách (např. volbách) nebo jako součást rozsáhlých dezinformačních kampaní. Falešná nahrávka zveřejněná ve správný čas může změnit rozhodování občanů a zasít pochybnosti, které, i když se později vyvrátí, je téměř nemožné včas napravit.
Sofistikovanější a hůře odhalitelné kybernetické útoky
Poslední fronta, na kterou spoluzakladatel Microsoftu poukázal, souvisí s počítačovou bezpečností. Umělá inteligence umožňuje vytvářet účinnější škodlivé kódy, zdokonalovat digitální podvody a vytvářet mimořádně věrohodné klamavé zprávy, zejména při phishingových útocích, což je technika, při níž se zločinci prostřednictvím e-mailů, telefonátů nebo jiných kanálů vydávají za důvěryhodné společnosti nebo osoby, aby ukradli citlivé informace.
Snadnost, s jakou tyto nástroje přistupují k veřejným údajům, a rychlost jejich zpracování znásobují schopnost personalizovat každou past, což vyžaduje posílení obrany proti kybernetické bezpečnosti na úrovni firem i jednotlivců.