TikTok trend, při kterém lidé pomocí AI vytvářejí falešné důkazy o vloupání, má první vážné následky. Mladá žena byla zatčena poté, co přiměla svého manžela i policii uvěřit v neexistující zločin. Případ ukazuje, jak snadno může nezodpovědné použití AI vést k reálnému nebezpečí.
TikTok se díky své gigantické uživatelské základně stal nejpopulárnější sociální sítí na světě. S více než miliardou aktivních uživatelů měsíčně platforma překonala ostatní sociální sítě, pokud jde o růst a popularitu. Tato expanze vyvolala obavy v několika zemích, zejména ve Spojených státech, kde panují obavy, že by aplikace mohla být čínskou vládou využívána jako špionážní nástroj, vzhledem k tomu, že mateřská společnost TikToku, ByteDance, sídlí v Číně. V reakci na to se americká vláda pokusila vykonávat kontrolu nad rozvojem platformy, což vedlo k diskusím o zákazu aplikace v zemi. Platforma však není ve zprávách kvůli této situaci, ale kvůli výsledkům plynoucím z jejího nejnovějšího virálního trendu: předstírání vloupání do domů pomocí umělé inteligence.
Nepovedený žert
Jednou z „obětí“ tohoto trendu je sedmadvacetiletá Moesha Gardenerová, která byla zatčena v Marylandu poté, co předstírala vloupání do domu pomocí obrázku vytvořeného umělou inteligencí a inspirovaného trendem TikTok. Gardenerová poté, co poslala svému manželovi falešnou fotografii, na níž byl muž spící na jejich gauči, ho přiměla zavolat na tísňovou linku a vysokou rychlostí odjet domů. Jakmile tam dorazil, byl konfrontován s následky manželčina žertu.
Po cestě manžel projel několik semaforů a ignoroval několik upozornění na omezení rychlosti. Situace se však vyhrotila, když se u Gardenerovic domu objevilo osm policejních aut. Po vstupu dovnitř nenašli muže spícího na gauči, ale trojnožku s telefonem přilepeným na dveřích. Moesha měla v úmyslu svého manžela nahrát, aby získala jeho reakci na nejnovější virální žert TikToku.
Při výslechu žena přiznala, že napodobila virální trend, který viděla na sociální síti. Ve skutečnosti tvrdila, že neočekávala, že její manžel nebo policie budou reagovat tak vážně, ale toto prohlášení situaci jen zhoršilo. Moesha byla obviněna z nepravdivého prohlášení o trestném činu nebo mimořádné události a lhaní státnímu úředníkovi, ale po zaplacení kauce ve výši 9 200 eur (asi 230 000 Kč) byla propuštěna.
Swatting aneb trend, který se nevyplácí
V návaznosti na Moeshův příběh policie připomněla, že podávání falešných telefonátů nebo zpráv je nezákonné a může mít vážné trestní následky. Příkladem může být fenomén swattingu, což je praxe falešného oznamování trestných činů s cílem vyprovokovat ozbrojenou reakci. Přestože si vyžádal lidské životy, v zemích, jako jsou Spojené státy, je ročně hlášeno více než 1 000 falešných oznámení. Swatting je opakovaným problémem v komunitě online hráčů, kde se spory často řeší výhrůžkami zavoláním policie, která má protivníka vyrušit.
Úřady proto poukazují na to, že zneužití umělé inteligence způsobuje, že tento typ žertů znásobuje rizika spojená s vytvářením falešných snímků nebo důkazů. Umělá inteligence pokročila natolik, že je nyní možné vytvářet snímky a videa, která vypadají neuvěřitelně reálně, což komplikuje úkol orgánů rozlišit, co je skutečné a co ne. Tento případ navíc slouží jako varování, protože sledování sociálních trendů souvisejících se simulacemi trestné činnosti může mít nejen vážné emocionální, ale i trestněprávní či právní důsledky.
V souvislosti s umělou inteligencí je důležité, aby si uživatelé byli vědomi etických a právních důsledků jejího používání. Nástroje umělé inteligence mohou být mimořádně výkonné, ale při nezodpovědném používání mohou být také nebezpečné. Platformy sociálních médií, jako je TikTok, mají povinnost sledovat a moderovat sdílený obsah, aby se předešlo situacím, jako je ta v případě Moeshy Gardenerové.