Hlavní hrdina přiznává, že měl štěstí, a varuje před skutečnými riziky, která plynou z dodržování lékařských rad generovaných umělou inteligencí.
Když se rozdíl mezi životem a smrtí měří na minuty, někteří lidé se obracejí na to, co mají po ruce, i když je to chatbot. Přesně to udělal jeden uživatel Redditu v červnu 2023: když jeho otec dostal infarkt, otevřel ChatGPT a podle pokynů nástroje krok za krokem provedl srdeční masáž. Umělá inteligence mu vysvětlila techniku, správný rytmus a přesné body na těle, na které má vyvíjet tlak. Záchranná služba přijela včas, otec se uzdravil a příběh měl zdánlivě šťastný konec.
Nejpozoruhodnější však nebyl výsledek, ale reakce hlavního hrdiny. Místo aby oslavoval umělou inteligenci jako zachránce, veřejně varoval, aby nikdo jeho postup nenapodoboval. Jeho argumentace byla jasná: jazykové modely jako ChatGPT trpí tím, čemu odborníci říkají halucinace, tj. že generují odpovědi, které znějí zcela věrohodně, ale mohou obsahovat závažné chyby nebo přímo vymyšlené informace. Měl štěstí, přiznal, ale příběh mohl skončit tragicky.
Půl milionu lékařských odpovědí generovaných AI se ukázalo jako nebezpečné
Od této epizody se prostředí umělé inteligence ve zdravotnictví značně vyvinulo. Společnost OpenAI představila v lednu 2026 funkci ChatGPT Health, která byla navržena speciálně pro lékařské konzultace a vyvinuta ve spolupráci se zdravotníky. Společnost trvá na tom, že jde o doplňkový nástroj, nikoli o náhradu lékaře. Realita používání však vypovídá o něčem jiném: ChatGPT se etabloval jako preferovaná aplikace pro řešení zdravotních dotazů mezi mladšími uživateli, přičemž do listopadu 2025 překročil počet 800 milionů uživatelů týdně.
Vědecké důkazy nabádají k opatrnosti. Výzkumníci publikující svá zjištění v časopise BMJ Open vyhodnotili pět nejpopulárnějších modelů umělé inteligence, včetně ChatGPT a Gemini, a zjistili, že polovina odpovědí na zdravotní témata obsahovala nepřesné nebo potenciálně škodlivé informace. Odborníci také varují před jevem známým jako lichocení: modely mají tendenci poskytovat odpovědi, které odpovídají tomu, co chce uživatel slyšet, na úkor klinické důkladnosti.
112 před každým chatbotem
Sám uživatel Redditu to vystihl výmluvněji než jakákoli technická analýza: postupoval podle instrukcí do písmene a jeho otec přežil, přesto však doporučil, aby se jeho kroky neopakovaly. Tento paradox přesně odráží, kde se nacházíme ve vztahu mezi umělou inteligencí a zdravím.
Debata, kterou tento příběh vyvolal, nepřipouští jednoduché odpovědi. Zcela zavrhnout umělou inteligenci v nouzové situaci může být chybou, ale stejně riskantní je jí slepě důvěřovat. Odborníci se shodují, že umělá inteligence by měla fungovat jako podpůrný zdroj, nikdy ne jako diagnostický nástroj. V každé skutečné nouzové situaci by první akcí mělo být vždy zavolání na linku 112, nikoli otevření chatbota.