Video vytvořené umělou inteligencí přimělo několik rodin k cestě do turistické destinace, která ve skutečnosti neexistuje.
V dnešní digitální době nás technologický pokrok neustále překvapuje a nástroje založené na umělé inteligenci (AI) způsobily revoluci ve způsobu vytváření a konzumace obsahu. Tyto nástroje jsou sice neuvěřitelně užitečné, ale mohou být také zneužity k vyvolání zmatku a uvedení lidí v omyl online.
Tento problém ilustruje nedávný případ z Malajsie. Zdánlivě neškodné video propagující turistickou destinaci se změnilo v hořkou zkušenost pro starší manželský pár. Manželé jeli z Kuala Lumpuru do města Kuak Hulu více než 370 kilometrů v naději, že si užijí jedinečný zážitek.
Video slibovalo jízdu lanovkou nad svěžími horami, večeři s panoramatickým výhledem a jelení zoo. To vše však byla iluze vytvořená umělou inteligencí.
Související článek
Video, které vytvořil kanál YouTube s názvem „TV Rakyat“, realisticky ztvárnilo turistickou reportáž. Moderátor vygenerovaný umělou inteligencí ukázal údajnou lanovku, vedl rozhovory s turisty a dokonce popsal jídlo v panoramatické restauraci. Produkce byla natolik přesvědčivá, že manželé neváhali a výlet podnikli. Když však dorazili na místo a zeptali se na atrakci, zjistili pravdu: vše bylo vygenerováno digitálně, pravděpodobně pomocí pokročilých nástrojů, jako je Google Veo 3.
Videa tak realistická, že je těžké je odlišit od reality
Zaměstnankyně hotelu, kde se pár ubytoval, vzpomíná na okamžik, kdy jim musela vysvětlit, že video je falešné: „Byli přesvědčeni, že je skutečné. Když jsem jim řekla, že reportér je také výtvorem umělé inteligence, nemohli tomu uvěřit,“ řekla místním médiím.
Tento případ není ojedinělý. Jiný uživatel na sociálních sítích uvedl, že jeho rodiče utratili více než 2 000 eur za pronájem dodávky na stejnou cestu, rovněž oklamáni virálním videem, které bylo po skandálu staženo.
Podobné podvody otevírají naléhavou debatu o rizicích obsahu vytvářeného umělou inteligencí. Tyto nástroje sice umožňují vytvářet působivá a kreativní videa, ale mohou být také zneužity k dezinformaci, zejména když se hranice mezi realitou a fikcí stále více stírá.
Tváří v tvář těmto výzvám získává teorie mrtvého internetu na síle, protože videa generovaná umělou inteligencí jsou na platformách, jako jsou TikTok, YouTube a Facebook, stále častější. Tato teorie naznačuje, že velká část internetového obsahu by mohla být generována stroji, což vyvolává vážné otázky ohledně autenticity informací, které konzumujeme.
Vědci hledají řešení
Někteří odborníci navrhují jasnou regulaci, povinné označování a digitální vzdělávání, aby uživatelé, zejména starší lidé, dokázali rozpoznat falešný obsah. Kromě toho by obsahové platformy měly zavést technologie detekce umělé inteligence, aby zabránily šíření zavádějících informací. Turistická destinace, která dnes vypadá jako sen, nemusí existovat, a pokud nedokážeme rozlišit, co je skutečné a co ne, můžeme být podvedeni, aniž bychom o tom věděli.
Odpovědnost nakonec leží jak na tvůrcích obsahu, tak na spotřebitelích. Ti první si musí být vědomi dopadu svých výtvorů, zatímco ti druzí si musí vypěstovat kritický smysl a zpochybňovat pravdivost toho, co vidí online. Ve světě, kde se technologie vyvíjejí mílovými kroky, je digitální gramotnost důležitější než kdy jindy, aby bylo možné se bezpečně pohybovat v obrovském oceánu informací, kterým je internet.