Tým pracovníků najatých společností Microsoft za účelem zdokonalení fungování služby Copilot má přímý přístup k fotografiím a pokynům zasílaným asistentovi umělé inteligence, jak vyplývá z vyšetřování zveřejněného serverem 404 Media. Toto zjištění vyvolává vážné pochybnosti o ochraně soukromí uživatelů této služby a zároveň odhaluje problém v pracovním prostředí: značná část tohoto materiálu obsahuje sexuální obsah, který samotní revizoři označují za znepokojivý a dokonce potenciálně nelegální.
Práce, o které nikdo nečekal, že bude tak nepříjemná
Revizoři popisují neustálý příliv žádostí o zvětšení prsou skutečných žen, zkrácení sukní nebo umístění osob do sexualizovaných póz. K tomu se přidávají fetišistické zakázky související s animovanými postavami, obrázky propagující anorexii a co je nejzávažnější, žádosti o vytvoření sugestivního obsahu zahrnujícího nezletilé osoby.
Několik zaměstnanců tvrdí, že přijali úkoly, aniž by předem věděli, že budou obsahovat explicitní nebo potenciálně nezákonné obrázky. Jeden z nich uvedl, že obdržel osm fotografií pořízených pod sukněmi žen, a požádal o přidání nějakého druhu upozornění na nevhodný obsah. Jiný popsal obrázky toho, co vypadalo jako zabíjení zvířat.
„Je těžké brát věci vážně, když se musím soustředit na to, která modelka má správnou velikost poprsí nebo která žena středního věku je umístěna do správné sexuálně sugestivní pozice,“ napsal jeden ze zaměstnanců na interním fóru, ke kterému mělo médium přístup.
Rozpoznatelné tváře a osoby, které neudělily souhlas
Hodnotící postup funguje takto: každý hodnotitel obdrží původní fotografii zaslanou uživatelem, doprovodný pokyn a dvě verze upravené Copilotem. Jeho úkolem je určit, která z obou verzí nejlépe splňuje požadavky, respektuje prvky, které měly zůstat nedotčené, a vykazuje vyšší vizuální kvalitu bez zkreslení a umělých textur.
Tento přístup znamená, že hodnotitel může přesně přečíst, o co uživatel požádal, a prohlédnout si osoby, které se na snímcích objevují. Odborníci z média 404 Media potvrdili na základě přímých svědectví, interních dokumentů a hodnotících pokynů, že tváře nejsou v žádném okamžiku rozmazány, což činí vyfotografované osoby dokonale rozpoznatelnými.
Problém se ještě zhoršuje, pokud obrázky nenahrála sama vyfotografovaná osoba. Recenzenti upozorňují, že mnoho žádostí o sexuální úpravy mohlo být provedeno bez souhlasu osob, které se na fotografiích objevují.
Hodnocení kvality, nikoli filtrování nevhodného obsahu
Zásadním detailem je, že práce těchto kontrolorů nespočívá v odhalování nevhodného materiálu s cílem naučit systém jej blokovat. Jejich úkolem je pouze posoudit technickou kvalitu úprav provedených umělou inteligencí. To znamená, že musí s profesionálním nadhledem analyzovat snímky, které sami považují za nepřijatelné, a hodnotit pouze to, jak dobře umělá inteligence provedla požadovanou úpravu.
Odborníci z ExtremeTech varují, že pouhé přechovávání určitého obsahu by v některých zemích mohlo představovat trestný čin v závislosti na typu materiálu a na platných právních předpisech v dané jurisdikci.
Na dotazy položené společností 404 Media se odpověď společnosti Microsoft omezila na obecné prohlášení. Mluvčí společnosti uvedl, že „společnost Microsoft využívá údaje zákazníků v souladu s našimi podmínkami použití“, mimo jiné za účelem vylepšování svých produktů a prosazování svého kodexu chování.