Kritická chyba ve filtrech YouTube umožňuje nalézt profily s necenzurovanými pornografickými obrázky, které obcházejí veškerá věková omezení.
YouTube má vážný problém s moderováním profilových obrázků a botnety toho využívají. Nejedná se o chybu ve vyhledávacím algoritmu, ale o mezeru ve sledování obrázků, které si uživatelé vybírají k identifikaci svých kanálů. Tato mezera umožňuje, aby se necenzurované pornografické obrázky objevovaly přímo ve výsledcích jakéhokoli dotazu.
Informace pochází z webu Android Authority, kde vysvětlují, že stačí zadat konkrétní výrazy, aby výpis kanálů vrátil miniatury s explicitním obsahem. Nejhorší je, že tyto profilové obrázky jsou viditelné i pro uživatele bez účtu, což překonává veškerá ochranná opatření pro nezletilé. Google stále nekoriguje tak základní oblast, jako je avatar tvůrce.
Sítě napříč kanály pro maskování obsahu pro dospělé
Metoda, kterou tyto účty používají, aby přežily vypnutí, spočívá v tom, že porno neumisťují přímo ve svá hlavní videa, ale do profilových obrázků a externích playlistů. Tyto kanály, které mají někdy více než 200 000 odběratelů, jsou propojeny, aby systém obelstily. Důsledkem je, že se uživatel dostane k NSFW obsahu prostřednictvím profilů, které se automatickým filtrům jeví jako neškodné.
Související článek
Tato zranitelnost je výsměchem funkci rozmazávání miniatur, kterou YouTube začal testovat v roce 2025. Nemá smysl skrývat rámeček videa, pokud je obrázek reprezentující kanál pornografický a po vyhledání se objeví v popředí. Platforma již letos utrpěla, když byly do dětských videí umístěny explicitní reklamy, což dokazuje, že monitorování má své meze.
Problém ještě zhoršuje skutečnost, že nevyžádaný obsah generovaný umělou inteligencí zahlcuje filtry společnosti, což umožňuje, aby tyto sítě zůstaly neodhaleny. Ačkoli se Google ve svých zprávách o transparentnosti chlubí, že odstranil miliony videí, technická realita je taková, že jeho detekční systémy ignorují vizuální metadata z koordinovaných účtů a playlistů.
Seriously, Google? Uncensored porn still appears on YouTube.
byu/Few_Baseball_3835 intechnology
Když se podíváme pod kapotu, ověřování věku pomocí umělé inteligence je účinné pouze pro registrované uživatele, čímž vzniká díra pro anonymní provoz. Nápad společnosti Google upřednostnit absolutní automatizaci umožňuje používat pornografii jako vizuální návnadu ve výsledcích vyhledávání. Bezpečnost diváků nakonec závisí na tom, zda útočník nepřelstí algoritmus.
Pasivita YouTube tváří v tvář těmto profilovým obrázkům ukazuje, že jeho bezpečnostní protokoly mají nepřijatelná technická slepá místa. Dokud společnost nezavede preventivní kontrolu avatarů před zveřejněním, zůstane každé vyhledávání s rizikovými výrazy otevřenými dveřmi k explicitnímu obsahu. Skutečnost je taková, že od dnešního dne je kontrola přístupu na platformě spíše návrhem než skutečnou překážkou.
Dopad na komunitu a reakce YouTube
Přítomnost explicitního obsahu na tak populární platformě, jakou je YouTube, má významné důsledky pro komunitu, zejména pro rodiče, kteří se spoléhají na to, že stránka poskytne bezpečný obsah pro jejich děti. Nedostatečná kontrola profilových obrázků může narušit důvěru uživatelů a vyvolat vážné obavy o bezpečnost na internetu.
V reakci na tyto obavy YouTube uvedl, že pracuje na zlepšení svých algoritmů detekce a moderace. Společnost uvedla, že vyvíjí pokročilejší nástroje umělé inteligence, které umožní rychleji identifikovat a odstraňovat nevhodný obsah. Kritici však tvrdí, že tato opatření jsou nedostatečná a že je zapotřebí přísnějšího lidského dohledu, který by doplnil automatizovanou technologii.
Úloha umělé inteligence při moderování obsahu
Umělá inteligence hraje při moderování obsahu na platformách, jako je YouTube, zásadní roli. Umělá inteligence má však svá omezení, zejména pokud čelí sofistikovaným taktikám používaným botnety a škodlivými tvůrci obsahu. Umělá inteligence sice dokáže rychle zpracovávat velké objemy dat, ale často jí chybí schopnost efektivně chápat kontext, což může vést k chybám při moderování.
Tvůrci explicitního obsahu navíc neustále hledají způsoby, jak filtry AI obejít, což pro platformy sociálních médií představuje trvalou výzvu. Klíčem k účinnému řešení těchto problémů může být implementace robustnějších systémů AI a jejich kombinace s lidským dohledem.
Závěr
Současná situace na YouTube týkající se moderování profilových obrázků je připomínkou toho, že samotná technologie nemůže vyřešit všechny problémy s bezpečností online. Je velmi důležité, aby platformy sociálních médií přijaly komplexnější přístup, který kombinuje pokročilé technologie s lidským dohledem, a zajistily tak bezpečné prostředí pro všechny uživatele. Do té doby musí uživatelé zůstat ostražití a nahlásit každý nevhodný obsah, na který narazí.