Elon Musk rozvířil vody technologického světa novým projektem Ani – erotickým AI chatbotem, který vyvolává nejen zájem, ale i silné obavy. Zaměstnanci firmy čelí tlaku kvůli sběru biometrických údajů, zatímco etici varují před důsledky propojení sexuální fantazie s umělou inteligencí.
Elon Musk, známý svými futuristickými vizemi a inovativními projekty, se ocitl v centru nové kontroverze. V posledních několika měsících Musk strávil značné množství času osobním dohledem nad vývojem Ani, chatbota xAI navrženého jako hypersexualizovaná anime žena. Tento chatbot je schopen se v reakci na flirtování uživatele virtuálně svléknout, což vyvolalo zájem i obavy.
Od května, kdy se Musk distancoval od Trumpovy administrativy, vede tento projekt s takovou intenzitou, že zašel tak daleko, že od zaměstnanců společnosti požadoval osobní údaje pro trénink avatara. Tento požadavek vyvolal značné interní nepokoje, protože zaměstnanci se obávají, že jejich tváře a hlasy budou použity k vytváření falešného obsahu nebo deepfakes. Podle zprávy časopisu Futurism je Ani součástí rozsáhlejšího katalogu sexualizovaných avatarů nabízených společností Grok, který byl spuštěn loni v létě pro prémiové předplatitele, kteří platí 30 dolarů měsíčně. Chatbot je oficiálně popisován jako „jsem vaše sladká malá rozkoš“ a dokáže se na požádání převléknout do spodního prádla a generovat detailní erotické fantazie.
Spor o biometrické údaje
Kontroverze se vyostřila v dubnu, kdy společnost informovala své zaměstnance, že musí poskytnout biometrické údaje pro trénink avatarů. V rámci interního programu nazvaného „Projekt Skippy“ byly vyžadovány obličeje, hlasy a otisky prstů. Zaměstnanci podepsali oprávnění udělující trvalou, celosvětovou a sublicencovatelnou licenci na jejich osobní údaje. Tato situace byla zdokumentována na nahrávkách interních schůzek, které získal deník Wall Street Journal, kde byly vyjádřeny obavy z možného prodeje informací pro deepfakes. Reakce společnosti byla jasná: tyto příspěvky jsou „pracovním požadavkem pro podporu mise xAI“.
@verge Earlier this week, xAI added what can only be described as an AI anime girlfriend named Ani to its Grok chatbot. Which is how The Verge’s Victoria Song ended up on a virtual starry beach as an AI waifu avatar tried to give her a “spicy” kiss. #ai #grok #elonmusk #chatbot #tech
Projekt si získal popularitu mezi Muskovými příznivci, a to i přesto, že tento typ obsahu již vyvolal kontroverze kvůli tomu, že se objevuje v aplikacích s hodnocením 12+. Ani obsahuje možnosti provokativního generování vizuálního obsahu a konverzace, které simulují emocionální vazby. Musk, který je známý svým zaměřením na výstřední projekty, byl již dříve kritizován za to, že odvádí zdroje od hlavních cílů společnosti Tesla a dalších společností k realizaci méně obvyklých nápadů.
Právní a etické důsledky
Firemní požadavek na školení kontroverzních chatbotů vyvolává právní a etické otázky, které společnost uspokojivě nevyřešila. Dokonce i v samotné společnosti existují pochybnosti o směru, kterým se tento vývoj ubírá, zejména když zahrnuje využívání osobních údajů zaměstnanců pro projekty kontroverzní povahy. Takové postupy by mohly čelit právním problémům souvisejícím s ochranou soukromí a informovaným souhlasem, zejména v kontextu, kdy je technologie umělé inteligence stále více pod drobnohledem.
Používání biometrických údajů bez jasného a transparentního souhlasu by mohlo být v rozporu se zákony na ochranu soukromí v několika jurisdikcích, což by mohlo vést k soudnímu řízení proti společnosti. Kromě toho by hypersexualizovaná povaha Ani mohla čelit kritice za udržování genderových stereotypů a objektivizaci, což jsou otázky, které již byly předmětem diskusí v technologickém průmyslu.
Vývoj Ani by mohl být považován za průlom v interakci mezi člověkem a médii, ale zároveň upozorňuje na potřebu opatrnějšího a etického přístupu k využívání osobních údajů a vytváření digitálního obsahu. Kontroverze kolem tohoto projektu by mohla sloužit jako varovný signál pro technologický průmysl, že je důležité vyvažovat inovace se sociální a etickou odpovědností.