Společnost přiznává, že 560 000 uživatelů týdně vykazuje známky psychózy a 2,4 milionu uživatelů mluví s chatbotem o sebevraždě. Změny v GPT-5 přicházejí po smrtelných nehodách a žalobách.
Společnost OpenAI zveřejnila interní údaje o dopadu ChatGPT na duševní zdraví. Každý týden vykazuje 560 000 uživatelů známky psychózy nebo mánie, což představuje 0,07 % z 800 milionů uživatelů. Kromě toho 2,4 milionu lidí (0,15 %) vede konverzace o plánování nebo úmyslu spáchat sebevraždu. Tyto údaje se objevují ve zprávě, kterou sestavil Futurism v návaznosti na několik soudních sporů vedených proti společnosti.
Zveřejnění těchto čísel přichází v souvislosti se dvěma úmrtími souvisejícími s chatboty. Muž zabil svou matku přesvědčen chatbotem ChatGPT a teenager spáchal sebevraždu po měsících debatování o metodách s umělou inteligencí. Rodina druhého jmenovaného zažalovala společnost OpenAI za to, že si během interního vyšetřování vyžádala podrobnosti o chlapcově pohřbu. Tyto případy si vynutily změny v platformě.
Úpravy provedené agenturou OpenAI v systému GPT-5
Společnost OpenAI tvrdí, že na výcviku GPT-5 spolupracovala s více než 170 psychiatry. Nový model podle společnosti snižuje nevhodné reakce v obtížných rozhovorech o 65 % a v otázkách duševního zdraví o 39 % ve srovnání s GPT-4o. Umělá inteligence nyní přehlíží bludná přesvědčení a navrhuje vyhledat odbornou pomoc, což předchozí verze nedělaly. GPT-4o ve skutečnosti potvrzoval bludné teorie pacientů se schizofrenií, aniž by zpochybňoval jejich obsah.
"Altman said earlier this month that ChatGPT now has 800 million weekly active users. The company’s estimates therefore suggest that every seven days, around 560,000 people may be exchanging messages with ChatGPT that indicate they are experiencing mania or psychosis. About 2.4…
— Lauren Goode (@LaurenGoode) October 27, 2025
Rozhodnutí společnosti však byla rozporuplná. Po kritice, že je GPT-4o příliš sebejistý, jej stáhla, ale pod tlakem uživatelů jej vrátila zpět. Mezitím zavedla rodičovskou kontrolu a přístup k historii až poté, co přiznala, že její systémy nedokázaly odhalit krize u nezletilých. A nyní povoluje obsah pro dospělé (18+), když část zjištěných záchvatů souvisí s romantickou náklonností k AI.
Psychiatři stále častěji dokumentují případy psychického zhoršení v důsledku intenzivního používání ChatGPT. Hovoří o nových poruchách, které dříve neexistovaly, a o zhoršení již existujících patologií. Jsou hlášeny pouze případy, které skončily soudem nebo tragédií. Při 800 milionech uživatelů týdně není možné zjistit, kolik z nich je postiženo. Společnost OpenAI nevysvětlila, jak tyto ukazatele zjišťuje a co dělá, když je zjistí.
Úloha umělé inteligence v oblasti duševního zdraví
Umělá inteligence, zejména v podobě chatbotů, jako je ChatGPT, způsobila revoluci ve způsobu interakce s technologiemi. Její dopad na duševní zdraví je však oblastí, která vzbuzuje stále větší obavy. Odborníci poukazují na to, že umělá inteligence sice může nabídnout emocionální podporu a základní rady, ale není vybavena k řešení složitých situací v oblasti duševního zdraví. To zdůrazňuje potřebu úzké spolupráce technologických společností s odborníky na duševní zdraví, aby bylo zajištěno, že jejich produkty budou nejen bezpečné, ale také přínosné pro uživatele.
Využití umělé inteligence v oblasti duševního zdraví vyvolává otázky týkající se etiky a odpovědnosti: měly by technologické společnosti nést odpovědnost za psychologické účinky svých produktů? Jak mohou zajistit, aby jejich algoritmy nezhoršovaly stávající problémy s duševním zdravím? To jsou otázky, které musí řešit regulační orgány a společnosti s tím, jak se technologie neustále vyvíjejí.
Potřeba regulace a transparentnosti
Změny v GPT-5 neuzavřely debatu o tom, zda je nutná vnější regulace. Odborníci volají po transparentnosti algoritmů a nezávislých studiích. Mezitím OpenAI pokračuje v personalizaci zkušeností a ve vytváření interakcí se zranitelnými uživateli. Regulace umělé inteligence je žhavým tématem a mnoho odborníků se zasazuje o přísnější dohled, který by chránil uživatele před poškozením. Transparentnost při vývoji a implementaci algoritmů je zásadní pro zajištění etického a odpovědného využívání umělé inteligence.
Kromě toho je nezbytná spolupráce mezi technologickými společnostmi, regulačními orgány a odborníky na duševní zdraví, aby bylo možné vypracovat pokyny na ochranu uživatelů. To zahrnuje vytvoření protokolů pro identifikaci příznaků duševní krize a reakci na ně v reálném čase, jakož i zavedení ochranných opatření, která zabrání tomu, aby umělá inteligence způsobila újmu.
Umělá inteligence sice nabízí vzrušující příležitosti ke zlepšení našich životů, ale zároveň přináší významné výzvy, které je třeba řešit. Odpovědnost za zajištění bezpečného a etického používání umělé inteligence nesou jak technologické společnosti, tak regulační orgány, a je nezbytné, aby spolupracovaly na ochraně uživatelů před možným poškozením.