Ačkoli mnozí obviňují algoritmus, toxický obsah ho k získání popularity nepotřebuje.
Sociální sítě se zrodily s cílem zmenšit fyzické vzdálenosti mezi lidmi prostřednictvím přímých forem kontaktu. Od dob rozkvětu Facebooku umožnily platformy jako Instagram, Twitter a Snapchat uživatelům okamžité spojení s lidmi vzdálenými tisíce kilometrů. V posledních letech se však rozšířila nenávist a nekalé praktiky, což vedlo ke kritickému bodu, kdy sociální sítě čelí značným problémům ve své struktuře a fungování.
Tyto platformy se staly prakticky nefunkčními: místo aby sjednocovaly, vytvářejí komory ozvěn, nerovnoměrnou pozornost a polarizaci. Problém není způsoben pouze vnucováním algoritmů nebo významem lidské zaujatosti, ale samotnou strukturou platforem. Výzkumníci z Amsterodamské univerzity použili agentové modely a umělou inteligenci k simulaci chování sítí a odhalili temnou pravdu o dynamice online sociálních sítí.
Problém sociálních sítí
Podle nedávno zveřejněné studie vzniká toxická dynamika v základním modelu přirozeně, což znamená, že není třeba přidávat žádné algoritmy, aby se škodlivému obsahu dařilo. Výzkumníci testovali šest různých zásahů, například chronologické kanály, zvýšenou diverzitu, překlenovací algoritmy a skrývání sociálních metrik, ale žádný z nich základní problém nevyřešil. Ve skutečnosti některé zásahy situaci dokonce zhoršily, protože zintenzivnily viditelnost extrémního obsahu.
Například zavedení chronologického feedu sice snížilo nerovnost pozornosti, ale posílilo výskyt extrémního obsahu. To ukazuje, že toxicita vzniká interakcí mezi strukturou sítě a emocionálním chováním, které se projevuje sdílením příspěvků pobuřujících, nenávistných nebo smutných. Tento jev vytváří toxickou zpětnou vazbu, kdy extrémy získávají viditelnost a utvářejí síť, přičemž posilují tytéž extrémy.
Studie také zdůrazňuje, že 1 % nejlepších uživatelů soustřeďuje většinu pozornosti, což vytváří nerovnoměrné rozložení moci. To vytváří přehnané vnímání politické polarizace, která ovlivňuje oblasti, jako je žurnalistika a kultura. Situaci navíc zhoršuje vzestup jazykového modelování a umělé inteligence, které usnadňují generování obsahu, jenž šíří dezinformace a manipuluje s politickými údaji. Budoucnost sociálních médií proto může vyžadovat radikální redesign, který zpochybní současné modely.
Existuje řešení?
K řešení těchto problémů někteří odborníci navrhují přístupy, jako je přísnější vládní regulace, podpora digitální gramotnosti a vývoj technologií, které upřednostňují blaho uživatelů. Zavedení těchto řešení však čelí značným výzvám, neboť vyžaduje spolupráci více zúčastněných stran, včetně technologických společností, vlád a uživatelů.
Vývoj sociálních sítí bude v konečném důsledku záviset na naší schopnosti vyvážit technologické inovace se sociální odpovědností a zajistit, aby tyto platformy plnily svůj původní účel, kterým je pozitivní a konstruktivní propojování lidí.
Stojíme na prahu nové éry
Ještě donedávna jsme si zjednodušovali problém sociálních sítí na zlou, všemocnou ruku algoritmu. Nové výzkumy však boří tento mýtus. Studie mi otevřela oči a dnes již vidím, že toxicita se skutenčě nešíří navzdory algoritmům, ale díky samotné architektuře platforem a naší lidské tendenci sdílet emotivní, často pobuřující obsah. Je to začarovaný kruh, kde extrémy získávají pozornost, a to samo o sobě posiluje jejich viditelnost a utváří síť. Měli bychom si uvědomit, že vina neleží jen v kódu, ale i v našem chování a designu, který ho podněcuje. To je pro mě zásadní posun v chápání, jak online prostor v posledních letech prakticky nefunguje a stal se spíše místem polarizace než propojování.