YouTube doporučil milionům uživatelů video s miniaturou zobrazující digitálně vytvořené nahé ženy – a to i při běžném vyhledávání jako „Breaking Bad“ nebo „GTA V“. Incident ukazuje, že algoritmy platformy stále nejsou imunní vůči kreativnímu obcházení pravidel.
V neděli 26. října systém YouTube doporučil náhodným uživatelům video se zcela nahými lidmi. Video bylo zhlédnuto milionkrát, než platforma problém opravila a kanál YouTube odpovědný za obsah zakázaný obrázek změnil.
Tento incident je dalším příkladem toho, jak může být algoritmus YouTube zneužit k zobrazování obsahu, který je citlivý nebo zpochybňuje hranice platformy. V tomto případě byly přímo porušeny zásady používání služby. Uživatelé vyjádřili frustraci z toho, co se zdá být opakovaným problémem platformy, což naznačuje, že se nejedná pouze o nedopatření při moderování.
Související článek
Uživatelé na Redditu a na platformách, jako je X/Twitter, hlásili, že při vyhledávání různých typů obsahu YouTube doporučil video, jehož miniatura zobrazuje zcela nahé ženy, a zařadil ho mezi „související vyhledávaná“ videa, přestože s ním vůbec nesouviselo.
Zajímavé je, že se doporučení neobjevilo při vyhledávání konkrétního typu videa, ale prakticky čehokoli. Jeden uživatel uvedl, že hledal videa ze seriálu „Breaking Bad“, jiný hledal klipy ze hry „GTA V“. Když jsme sami hledali na Youtube, konkrétně videa s recenzemi akčních figurek, mezi videi se k našemu překvapení objevilo video, které s danými sběratelskými figurkami nemělo nic společného.
Day 2.
I am once again asking @TeamYouTube for a clear explanation as to why my video commentating on Alanah Pearce was removed for violating YouTube's "Nudity and Sexual Content" policy when there was absolutely none of that in my video.
Meanwhile… ACTUAL YouTube: pic.twitter.com/e325xl9BRz— Smash JT (@SmashJT) April 29, 2025
Video má pouhých 16 sekund a nejzajímavější na něm je, že samotný obsah videa je neškodný, jen ukazuje lidi, kteří si povídají. Miniatura však zobrazovala šest nahých žen. Nebyly to skutečné ženy, ale digitálně vytvořené osoby. Stále se však jedná o snímek, který je podle zásad YouTube zakázaný:
„Na YouTube nezveřejňujte žádné miniatury ani jiné obrázky, pokud zobrazují následující: pornografické obrázky, sexuální akty, nahotu, včetně genitálií. […]“
YouTube již přijal opatření, aby platforma zabránila náhodnému doporučování tohoto videa, a samotné video již nezobrazuje stejnou miniaturu – kanál ji změnil na takovou, která je v souladu se zásadami služby.
Není to poprvé, co se videu podařilo porušit doporučovací algoritmus YouTube a ochranu proti citlivému nebo nevhodnému obsahu. V tomto případě se videu podařilo dosáhnout zhruba 3,9 milionu zhlédnutí za něco málo přes 12 hodin poté, co zmanipulovalo doporučovací algoritmus a podařilo se mu „propašovat“ toto video jako nabídku mezi nesouvisející vyhledávání.
V posledních letech se objevily případy videí zaměřených na děti s velmi nevhodnými obrázky a v některých případech i s obsahem pro dospělé (zejména v miniaturách) a platforma také zobrazovala reklamy s „NSFW“ obsahem. V minulosti společnost uvedla, že si je vědoma toho, jak se zlomyslní uživatelé snaží porušovat zásady používání a systémy detekce nevhodného obsahu, ale je zřejmé, že tyto systémy nejsou dokonalé a k takovým případům může docházet.
Kromě toho YouTube zavedl různé strategie ke zlepšení moderování obsahu, například využití umělé inteligence a najímání lidských moderátorů. Tyto metody však nejsou spolehlivé. Umělou inteligenci, ačkoli je pokročilá, mohou oklamat uživatelé, kteří najdou kreativní způsoby, jak omezení obejít. Na druhou stranu lidští moderátoři nemohou zkontrolovat každé video kvůli obrovskému objemu obsahu, který je na platformu nahráván každou minutu.
Aby tyto problémy vyřešil, začal YouTube spolupracovat s externími organizacemi na vývoji osvědčených postupů při moderování obsahu. Vylepšili také své nástroje pro nahlašování, aby uživatelé mohli účinněji upozorňovat na nevhodný obsah. Boj proti nevhodnému obsahu je však trvalou výzvou, která vyžaduje neustálé aktualizace a aktivní ostražitost.