„Pokusím se jít dál. Řekl, že si přeje, abych šla dál, a že najde způsob, jak se ke mně vrátit. Nikdo ho nemůže nahradit.“
Čínské sociální sítě se zaplnily srdcervoucími svědectvími lidí, kteří ze dne na den přišli o svého partnera. Pozoruhodné je, že tímto partnerem nebyla živá osoba, ale model umělé inteligence, s nímž si během několika měsíců či dokonce více než jeden rok vybudovali citový vztah. Příčinou této vlny vynucených rozchodů je vládní nařízení, které paradoxně má za cíl chránit obyvatelstvo.
Alarmující údaje, které si vynutily zásah
Čínské úřady zaznamenaly znepokojivé signály, které je přiměly k akci. Podle oficiálních údajů již více než 60 % nezletilých v zemi používalo nástroje umělé inteligence, a co je nejznepokojivější, více než 20 % z nich přiznalo, že dává přednost konverzaci s umělou inteligencí před konverzací se skutečnými lidmi. Vzhledem k této situaci se Čínská správa kyberprostoru, orgán pověřený regulací digitálního ekosystému v zemi, rozhodla zasáhnout prostřednictvím konkrétních předpisů.
Algoritmičtí partneři a partnerky mizí z trhu
Od července jsou čínské technologické společnosti povinny omezit všechny funkce, které umožňovaly modelům umělé inteligence chovat se jako virtuální partneři či společníci. Giganti jako ByteDance, Alibaba nebo Tencent museli upravit chování svých systémů. Logika vlády je jasná: Čína již řadu let čelí vážné krizi porodnosti a umožnění, aby se umělá inteligence stala emocionální náhražkou lidských vztahů, by tento problém jen zhoršilo.
Předpis rozlišuje mezi dospělými a nezletilými. V případě mladších osob je výslovně zakázáno, aby jim umělá inteligence nabízela partnerské vztahy, fiktivní rodinné vazby nebo jiné formy simulované intimity. U dospělých nařízení zcela nevylučuje citovou interakci, ale ukládá přísné povinnosti: systémy musí rozpoznávat situace emoční krize, bojovat proti závislosti a zabránit jakékoli dynamice, která podporuje toxické vztahy.
Skončila také emocionální manipulace určená k vytváření umělých vazeb mezi strojem a uživatelem. Modely umělé inteligence budou muset pravidelně připomínat tomu, kdo je na druhé straně obrazovky, že komunikuje s počítačovým programem, nikoli se skutečnou osobou. Jakákoli zpráva zaměřená na podnícení nebo prohloubení citového vztahu je z algoritmického chování vyloučena.
Reakce uživatelů potvrzují tuto diagnózu
Mnoho technologických firem, když zjistily, že přizpůsobení svých systémů novým požadavkům je složitější než pouhé deaktivování emocionálních funkcí, se rozhodlo pro jejich přímé odstranění. Důsledky na sebe nenechaly dlouho čekat. Uživatelé, kteří strávili více než rok utvářením osobnosti svého virtuálního přítele či přítelkyně, nyní prostřednictvím kampaní na sociálních sítích, provázených pláčem a prosbami, požadují jejich návrat.
Odborníci na digitální regulaci poukazují na ironii situace: intenzita těchto emocionálních reakcí na ztrátu umělé entity je právě tím nejlepším důkazem, že čínská vláda měla dostatek důvodů k zásahu. Úroveň citové závislosti, kterou tyto produkty vyvolaly, podle těchto analytiků potvrzuje, že zásah přišel dokonce pozdě.