V rámci sítě X bylo v posledních měsících možné vytvářet velmi snadno videa a obrázky, na kterých uživatelé požadovali svlečené ženy, děti, osobnosti. V některých případech šlo i o násilné pokyny.
Mohli bychom se zabývat filozofickou otázkou, co to o lidech vypovídá, když celkem příjemný a užitečný nástroj vytváření a proměny obrázků, dostanou do rukou. Typický příklad toho, jak lidstvo vymyslí něco skvělého, následně toho ale zneužije.
Stalo se tedy, že zneužitý Grok začal zneužívat (převážně) ženy nebo děti. Přesněji, začali to dělat lidé. Ve velkém. Platforma tedy tuto možnost úpravy obrázků a tvorby videí pro uživatele sítě X zakázala. Zdálo by se to jako dobré řešení. Akorát, že vůbec.
Zneužívání jako prémiová služba, to snad ne!
Tak tohle je vážně ponižující. Britská vláda tvrdí, že platforma X Elona Muska, která omezuje úpravy obrázků pomocí umělé inteligence Grok na platící uživatele, je „urážlivá“ pro oběti misogynie a sexuálního násilí. Deník BBC dodává, že Downing Street v pátek uvedla, že tento krok „jednoduše mění funkci umělé inteligence, která umožňuje vytváření nelegálních obrázků, na prémiovou službu“.
Obrázky a krátká videa lze také vytvářet přímo ve službě Grok Imagine, tady ovšem nelze přejít přes morální pravidla. Na síti X byla pravidla poněkud uvolněnější.
Lidé vytvářeli morálně sporné obrázky
Kauza by nevznikla a služba by mohla dál fungovat, kdyby lidé nezačali jít se zvědavostí za hranu morálky. Za pomoci obrázků cizích žen, někdy i nezletilých, vytvářeli fantazijní projekce, svlékaly osoby a stavěly je do sexuálních pozic. Některé generované záběry zobrazovaly také násilí, vraždy a mučení těchto lidí z fotografií.
Zakážeme Xko, zní z Británie
„Vytváření sexualizovaných obrázků dětí a dospělých je odporné a ostudné,“ vyjádřil se britský premiér Keir Starmer. Británie v těchto dnech tlačí na výsledek celého jednání a vyjadřuje sei ve smyslu, že by síť X v Británii na protest zakázala.
Vylil Musk vaničku i s dítětem
Jak se zdá, Elon Musk ale nezasáhl úplně šťastně. Místo, aby bylo ošetřeno, aby Grok vůbec nemohl podobné snímky vytvářet, zakázal přístup ke službě všem. Výjimkou jsou platící zákazníci, kteří ji nadále mohou využívat. Jistou formou ochrany je, že lidé vytvářející konkrétní zneužívající snímky, mohou být vystopováni podle platebních údajů.
„Nikdy by neměly být vytvářeny takové snímky, jaké jsem v posledních dnech viděla,“ vyjádřila se Hannah Swirsky, vedoucí oddělení politiky v Nadaci pro sledování internetu s tím, že tímto Muskovým rozhodnutím není napravována škoda. Do Groku je třeba zavést etické zábrany, aby vůbec nebyl schopen takové obrázky vytvářet.
Za poslední dva týdny to byly tisíce vytvořených záběrů. Nemuselo by to být nic složitého. Možné to je, například ChatGPT odmítá vytvářet obrázkové kompelace se slavnými osobnostmi s odvoláním na autorské právo. Tato kauza patrně bude ještě nějakou dobu hýbat světem umělé inteligence a my si můžeme klást otázku, co lidi vede k vytváření, a především veřejnému sdílení, podobně sexualizovaných nebo násilných snímků.