Uživatel málem přišel v přepočtu o více než 17 tisíc korun kvůli výsledkům vyhledávání Google posílených umělou inteligencí.
Vzestup umělé inteligence vedl k jejímu rozšíření v různých oblastech. Společnosti jako Microsoft, Meta, Apple a Google již několik let hledají způsoby, jak zvýšit využívání umělé inteligence ve svých firmách, protože věří, že umělá inteligence se stane budoucností technologického odvětví. Rozšíření tohoto oboru však bohužel znamená, že mnoho škodlivých subjektů hledá způsoby, jak využít jeho předností k podvodům, podvádění a páchání podvodů.
Umělá inteligence je sice výkonná, ale není bez chyb. Jedním z nejčastějších problémů je nedostatečné ověřování informací, které poskytuje. Je to proto, že umělá inteligence, jako jsou jazykové modely společnosti Google, shromažďuje údaje z mnoha online zdrojů, které mohou obsahovat nesprávné nebo zavádějící informace. Tento jev je znám jako „halucinace umělé inteligence“, kdy umělá inteligence generuje obsah, který se zdá být věrohodný, ale je nepřesný nebo nepravdivý.
Američan Alex Rivlin se stal obětí podvodu, když se pokoušel rezervovat dopravní službu pro plavbu v Evropě. Jak vyplývá z původního příběhu, podvod zahrnoval falešná čísla zákaznických služeb zveřejněná na internetu, což se přímo týkalo společnosti Google. Důvod? Zřejmě navzdory tomu, že se jednalo o falešná čísla vydávající se za skutečné společnosti, zobrazovala umělá inteligence přehledů Google jedno z těchto čísel, jako by bylo oficiální.
Související článek
Spoléhání na rady AI přišlo uživatele málem draho
Rivlin poté, co zavolal a kontaktoval údajného agenta společnosti Royal Caribbean, dobrovolně poskytl údaje o své kreditní kartě. Prozradil, že v žádném okamžiku nepojal podezření, že jde o podvod, protože podvodný operátor působil přesvědčivě a ve skutečnosti zašel tak daleko, že nabízel skutečné podrobnosti o dopravě, jízdném a dokonce i slevách. Po dlouhém a zdlouhavém rozhovoru tak Rivlin souhlasil s úhradou 704 eur, které se mu naštěstí podařilo rychlým jednáním získat zpět.
Po rozhovoru s operátorem obdržel na svůj účet řadu podezřelých poplatků, které neodpovídaly společnosti Royal Caribbean. Naštěstí se mu podařilo kartu včas zrušit a získat peníze zpět, ale tento případ odráží, jak jsou staré podvody umocněny systémy umělé inteligence, protože tyto nástroje nejsou schopny zobrazit informace, které nejsou ověřené. V důsledku toho Rivlin obvinil z pochybení při kontrole této situace přímo společnost Google.
Reakce angažovaných společností
V návaznosti na celou situaci společnost Google sama odstranila zjištěné podvodné příklady a ujistila, že zlepšuje spolehlivost odpovědí. Společnost OpenAI, další postižená společnost díky úzkému vztahu se společností Google, uvedla, že několik stránek s falešnými čísly bylo odstraněno, ale prozradila, že změny se projeví až po určité době, a proto by uživatelé měli zvýšit opatrnost. Odborníci však postupy společnosti Google kritizovali a doporučují, aby se nejlépe využívaly její vlastní ověřené databáze podniků, protože nespoléhají na obecný obsah webu.
Uživatelům navíc doporučují, aby si kontaktní čísla vždy ověřovali prostřednictvím oficiálních webových stránek společností nebo důvěryhodných aplikací. Je také nezbytné, aby technologické společnosti zavedly přísnější opatření k ověřování informací, které jejich systémy umělé inteligence předkládají uživatelům. Tento incident podtrhuje význam digitální gramotnosti a nutnost kritického přístupu uživatelů k informacím, se kterými se setkávají na internetu.