Evropská komise zahájila vyšetřování platformy X kvůli obavám, že její AI nástroj Grok pomáhal šířit manipulované sexuální snímky, včetně těch s nezletilými. Případ může být klíčovým precedentem pro regulaci umělé inteligence a ochranu uživatelů v digitálním prostoru.
Evropská komise oznámila zahájení formálního vyšetřování proti společnosti X kvůli způsobu, jakým Grok pomáhal vytvářet a šířit zmanipulované sexuální snímky. Toto vyšetřování probíhá v rámci povinností vyplývajících ze zákona o digitálních službách (DSA), což je nařízení, jehož cílem je zajistit bezpečné a transparentní digitální prostředí pro uživatele. Několik médií uvedlo, že se zaměřuje na ženy a nezletilé osoby v návaznosti na vlnu stížností ze strany sítí i veřejných orgánů.
Zákon o digitálních službách, který vstoupil v platnost v roce 2022, stanoví konkrétní povinnosti pro online platformy, zejména ty s velkým počtem uživatelů, tzv. velmi velké platformy. Tyto povinnosti zahrnují posouzení rizik, zavedení opatření ke zmírnění těchto rizik a transparentnost jejich činnosti. Vyšetřování společnosti X se zaměřuje na to, zda společnost tyto povinnosti splnila před aktivací nástroje Grok, který je založen na umělé inteligenci a který byl kritizován za svou schopnost generovat potenciálně škodlivý obsah.
Brusel v podstatě zjišťuje, zda společnost X před aktivací nástroje Grok posoudila rizika a zavedla opatření. V tomto případě se spis netýká pouze obrázků, ale také způsobu, jakým společnost X doporučuje obsah, a jeho transparentnosti, což je aspekt, který rozšiřuje předchozí vyšetřování, které již na platformě probíhalo.
Jaké sankce by mohly síti X hrozit
Pokud se nedodržení předpisů potvrdí, umožňuje DSA uložit pokutu až do výše 6 % celosvětového obratu společnosti, což je rána, která by zabolela i společnost zvyklou na hluk. Společnost X zase tvrdí, že stanovila limity omezením úprav fotografií a blokováním funkcí v zemích s přísnější legislativou, ale EU pochybuje, že to stačí ke zmírnění škod.
Dopad těchto sankcí by mohl být značný, a to nejen z finančního hlediska, ale také na pověst společnosti. Velké technologické společnosti jsou pod drobnohledem kvůli svému zacházení s daty a obsahem a tento případ by mohl vytvořit důležitý precedens pro budoucí regulaci. Kromě toho je dodržování požadavků DSA zásadní pro udržení důvěry uživatelů a zajištění bezpečného digitálního prostředí.
Podle všeho došlo k akci a reakci i mimo starý kontinent, protože některé regulační orgány učinily kroky a sociální síť postihlo několik dočasných zákazů na různých územích v Asii. Nejedná se tedy o ojedinělý případ, který se týká pouze Evropy, ale má i mezinárodní dopad. Podle médií, jako je The Guardian, byly během několika hodin vygenerovány miliony sexualizovaných snímků, což je číslo, které ukazuje, že tisíce případů se týkají nezletilých.
Současný problém
Vytváření a šíření deepfakes, zejména těch, které se týkají nezletilých, vyvolává vážné etické a právní obavy. Deepfakes jsou obrázky nebo videa generovaná umělou inteligencí, která se mohou jevit jako skutečná, ale jedná se o digitální manipulaci. Jejich použití v nevhodných souvislostech, jako je vytváření sexualizovaného obsahu, může mít pro oběti zničující důsledky, včetně psychického poškození a poškození pověsti.
Zde je podtext jasný: chatboti již nejsou izolovanou hračkou, ale stali se součástí populární kultury s přítomností na sociálních sítích a dalších platformách. V přímém důsledku toho musí vládní subjekty nabídnout prevenci, sledovatelnost a odpovědnost, protože v sázce je jejich kriminální a toxické využití vůči nezletilým.
Pro běžného uživatele je přímým důsledkem ztráta výřezových prvků nebo zařazení více kontrol, protože EU si často vynucuje změny výrobků současně s uvalením sankcí. Prozatím zůstává otázkou, co Komise po X požaduje, jaké lhůty stanoví a především jaká naléhavá opatření požaduje během vyšetřování, což jsou tři aspekty, které poznamenají budoucnost tohoto vyšetřování.
Odpovědnost digitálních platforem za ochranu svých uživatelů, zejména těch nejzranitelnějších, je stále důležitější otázkou. Rozhodnutí učiněná v tomto případě by mohla ovlivnit způsob, jakým budou v budoucnu regulovány nově vznikající technologie, a zajistit tak jejich etické a bezpečné používání.