Společnost xAI Elona Muska čelí ostré kritice za využití biometrických údajů zaměstnanců k trénování erotického chatbota „Ani“. Zaměstnanci měli podepsat trvalé licence na své hlasy a tváře – jinak jim hrozila výpověď. Případ otevírá vážné otázky o etice a právu v éře umělé inteligence.
Podle deníku Wall Street Journal použila společnost xAI biometrické údaje svých zaměstnanců k trénování ženského chatbota s názvem „Ani“. Jedná se o blonďatého anime avatara zaměřeného na dospělé publikum, který byl uveden na trh loni v létě. K interakci s ní stačí mít na X SuperGrok a platit 30 dolarů měsíčně. Server The Verge ji vyzkoušel a přiznává, že je jako „moderní verze erotické linky„. Již dříve bylo oznámeno, že společnost xAI spustila na Groku několik provokativních osobností.
Znepokojivé využití biometrických údajů k tréninku chatbotů
Používání biometrických údajů k trénování umělých inteligencí není novinkou, ale případ xAI vyvolal etické a právní obavy. Biometrické údaje zahrnují jedinečné fyzické charakteristiky, jako jsou otisky prstů, rozpoznávání obličeje a hlasové vzory. Tyto charakteristiky se používají k ověřování totožnosti a personalizaci zkušeností, ale mohou být také zneužity, pokud se s nimi nezachází správně.
V dubnu byli zaměstnanci xAI informováni, že budou muset poskytnout své biometrické údaje, které budou sloužit jako zdroj této umělé inteligence. Podle amerických novin to bylo součástí snahy zajistit, aby interakce s „Ani“ byla co nejlidštější. Zaměstnanci, kteří byli určeni jako „lektoři AI“, podepsali autorizační formuláře, které obsahovaly trvalé celosvětové nevýhradní licence s možností dalšího licencování a bez nároku na honorář. To společnosti umožňovalo neomezeně používat jakékoli lidské údaje, jako je hlas, otisky prstů a obličej. Tento proces byl součástí programu s kódovým označením „Projekt Skippy“. Tato data měla být použita nejen pro „Ani“, ale také pro další projekty umělé inteligence.
Využití biometrických údajů v umělé inteligenci je v technologické komunitě předmětem diskusí. Zatímco někteří tvrdí, že zlepšuje přesnost a personalizaci systémů umělé inteligence, jiní poukazují na rizika pro soukromí a bezpečnost. Shromažďování a uchovávání biometrických údajů bez řádného souhlasu může vést k porušování soukromí a zneužití údajů, například k jejich použití v deepfakes nebo prodeji třetím stranám bez vědomí jednotlivce.
Ne všichni zaměstnanci se tomuto požadavku podvolili, protože nechtěli, aby byly jejich snímky prodány nebo zneužity v deepfakes. Kromě toho se objevil pocit nepohodlí kvůli „sexuálnímu chování“ chatbota. xAI tuto záležitost ukončila prohlášením, že se jedná o „pracovní požadavek„, aby se podpořilo poslání společnosti Elona Muska.
Používání biometrických údajů bez výslovného souhlasu zaměstnanců vyvolává vážné etické a právní obavy. Ochrana osobních údajů je základním právem a společnosti musí zajistit, aby s údaji svých zaměstnanců nakládaly bezpečně a eticky. Předpisy o ochraně osobních údajů, jako je například obecné nařízení o ochraně osobních údajů (GDPR) v Evropě, stanovují přísná pravidla pro nakládání s osobními údaji, včetně biometrických údajů.
Co si myslíte o tomto vývoji v útrobách kontroverzní společnosti zabývající se umělou inteligencí? Problém je, když používáte údaje, které lidem legálně patří, a tímto způsobem jim je berete. Uvidíme, zda se v tomto případě uplatní nějaký zvláštní přístup, který nezní příliš dobře.
Závěrečné úvahy
Případ xAI a „Ani“ poukazuje na potřebu silnějšího regulačního rámce pro využívání biometrických údajů v umělé inteligenci. Společnosti by měly transparentně informovat o způsobu shromažďování a využívání údajů a měly by získat výslovný souhlas jednotlivců před použitím jejich biometrických údajů. Kromě toho by zaměstnanci měli být informováni o možných rizicích a měli by mít možnost odmítnout účast bez jakýchkoli pracovněprávních důsledků.
Ve světě, kde se technologie rychle vyvíjejí, je zásadní, aby podniky a vlády spolupracovaly a zajistily ochranu práv jednotlivců na soukromí. Důvěra v technologie závisí na schopnosti podniků zacházet s údaji eticky a odpovědně.