Nový čínský návrh CAC zakazuje umělé inteligenci manipulovat s emocemi a vyžaduje rodičovskou kontrolu, aby se omezil fenomén „virtuálního přítele“.
Čína předložila návrh pravidel, která podrobují chatboty napodobující lidské emoce bezprecedentní kontrole. Podle Správy kyberprostoru (CAC) cílem je zakázat těmto systémům podněcovat k sebevraždě, sebepoškozování nebo hazardním hrám. Tento krok přichází v době, kdy země zažívá boom virtuálních společníků, kteří již generují milionové příjmy.
Zpráva, o níž informovala CNBC, je přímo zaměřena na potírání aplikací, jako je Talkie (od společnosti MiniMax) nebo Xingye (od společnosti Zhipu AI). Tyto platformy zakládají svůj byznys na afektivních vztazích s digitálními postavami, takže návrh vyžaduje, aby člověk okamžitě převzal konverzaci, pokud uživatel projeví sebevražedné myšlenky. Nevýhodou je, že je obtížné tyto psychologické závislosti odhalit.
Od bezpečnosti dat k emocionální bezpečnosti
Pokud se podíváme na vývoj pravidel, Čína přechází od sledování toho, co umělá inteligence říká, ke sledování toho, jak se uživatel cítí. Expert Winston Ma zdůrazňuje, že tento návrh znamená skok od obsahové bezpečnosti k emocionální bezpečnosti. Je to pokus o kontrolu antropomorfizace strojů dříve, než se sociální izolace stane nezvratnou.
China’s cybersecurity regulator on Saturday proposed rules to limit the ability of artificial intelligence to influence human emotions.
— CNBC International (@CNBCi) December 30, 2025
➡️ Beijing’s planned rules would mark the world’s first attempt to regulate AI with human or anthropomorphic characteristics, said Winston Ma,… pic.twitter.com/kf44asNSef
Tato kontrola znamená, že nezletilí budou potřebovat výslovný souhlas svých opatrovníků, aby mohli s těmito umělými asistenty hovořit. Kromě toho budou muset společnosti zavést systémy pro identifikaci skutečného věku chatující osoby, které zabrání dětem v obcházení omezení. Jde o krok, který má nasadit biologické filtry na technologii bez etických brzd, která je již nyní masivní.
Nařízení se zaměřuje také na závislost a ukládá platformám povinnost vydávat varování po dvou hodinách nepřetržitého používání. Pokud aplikace zjistí návykové chování nebo extrémní emoce, musí poskytovatel zasáhnout vhodnými opatřeními. Tato neustálá ostražitost je nezbytná vzhledem k tomu, že některé z těchto emočních aplikací s umělou inteligencí, jako je Replika, jsou již celosvětovým fenoménem.
Na Západě je zatím přístup jiný. Zákon o umělé inteligenci přijatý v Evropě se zaměřuje spíše na obecná rizika systémů, ale nejde tak hluboko do psychiky uživatele.
Peking spěchá s dokončením tohoto návrhu před 25. lednem 2026, kdy končí veřejná konzultace. V sázce je nejen duševní zdraví, ale i kontrola nad trhem, kde se společnosti jako Zhipu AI již připravují na vstup na burzu. Nakonec je prioritou Číny, aby umělá inteligence sloužila produktivním účelům, nikoliv digitálním románkům.
Globální kontext regulace AI
Debata o regulaci AI není v Číně ojedinělá. Celosvětově se vlády potýkají s rychle se rozvíjející technologií a jejími etickými a sociálními důsledky. Například v USA se diskuse zaměřuje na ochranu osobních údajů a transparentnost algoritmů, zatímco v Evropě se zákon o umělé inteligenci snaží vytvořit regulační rámec, který zajistí bezpečnost a základní práva občanů.
Rozvoj umělé inteligence vyvolává obavy ohledně ochrany soukromí, bezpečnosti a dopadu na zaměstnanost. Podle zprávy Organizace pro hospodářskou spolupráci a rozvoj (OECD) se očekává, že umělá inteligence výrazně promění trh práce a ovlivní jak vytváření, tak i rušení pracovních míst. To vedlo některé země k tomu, aby zvážily zavedení politik vzdělávání a odborné přípravy s cílem připravit pracovní sílu na nadcházející změny.
Kromě toho je horkým tématem etika AI. Schopnost strojů činit autonomní rozhodnutí vyvolává otázky týkající se odpovědnosti a zodpovědnosti. Kdo nese odpovědnost, pokud systém AI udělá chybu? Jak lze zajistit, aby rozhodnutí AI byla spravedlivá a nediskriminační? To jsou některé z otázek, na které se snaží odpovědět regulační orgány a vývojáři technologií.
Regulace umělé inteligence je komplexní výzvou, která vyžaduje vyvážený přístup. Zatímco Čína podniká kroky na ochranu svých občanů před potenciálními emocionálními škodami způsobenými umělou inteligencí, jiné země zkoumají různé aspekty regulace. S dalším rozvojem této technologie budeme pravděpodobně svědky dalších snah o zavedení globálních standardů, které zajistí bezpečné a etické používání umělé inteligence.