Umělá inteligence měla vnést do chirurgie přesnost a bezpečnost. Místo toho ale roste počet případů, kdy selže – a pacienti končí se zraněními. Systém TruDi, využívaný při operacích dutin, čelí obviněním po sérii incidentů, které upozorňují na nedostatky AI v citlivém lékařském prostředí.
Umělá inteligence se vkrádá na operační sály prostřednictvím zařízení, která slibují pomoc chirurgům. Nejsou však tak efektivní, jak bychom si přáli, protože se u nich hromadí nejen varování před selháním, ale také historie neúmyslných zranění. Takový je hvězdný případ navigačního systému TruDi, systému pro operace vedlejších nosních dutin, do kterého bylo v roce 2021 přidáno strojové učení a od té doby se u něj stalo několik negativních incidentů.
Po přidání umělé inteligence obdržel Úřad pro kontrolu potravin a léčiv (FDA) nejméně 100 hlášení o selháních nebo incidentech, což je číslo, které je v přímém kontrastu s několika varováními, která přístroj obdržel v době, kdy byl „klasický“. Od konce roku 2021 do listopadu 2025 tak zprávy popisují nejméně 10 zraněných osob, většinou v důsledku chybných údajů z přístrojů uvnitř hlavy.
Související článek
Ve skutečnosti jsou zmiňovány vážné strašáky, jako je únik mozkomíšního moku, perforace na spodině lebeční a dokonce mrtvice po poškození tepny během operace. Tyto zprávy samy o sobě nedokazují vinu, ale dva žalobci v Texasu obvinili AI a společnost reaguje, že neexistují žádné věrohodné důkazy o příčinné souvislosti.
Problémem je zde eskalace problému, protože FDA schválila více než 1 350 zařízení AI, což je jen dvojnásobek počtu schválených v roce 2022. Bohužel i z dalších příkladů běhá mráz po zádech, když se objevuje souvislost mezi 60 zařízeními AI spojenými se 182 neštěstími, což je situace, která nastala za méně než rok (dvojnásobek obvyklé rychlosti).
Různá varování týkající se chirurgických přístrojů s umělou inteligencí tak ukazují, že některé funkce nejsou připraveny tak, jak bychom si přáli, protože umělá inteligence stále hlásí selhání ve velmi citlivých oblastech. Proto čelí četným vyšetřováním, ale v tak složitém odvětví, jako je chirurgie, záleží na každé maličkosti, a proto nesmíme ztratit lidský faktor.
Rostoucí integrace umělé inteligence do lékařské oblasti, zejména na operačních sálech, představuje značnou výzvu. Navzdory příslibům přesnosti a efektivity je realita taková, že tato technologie je stále ve vývoji a může být náchylná k chybám. Tyto chyby nejen ohrožují zdraví pacientů, ale mohou také ovlivnit důvěru ve zdravotnické technologie.
Nedávná studie Stanfordovy univerzity odhalila, že umělá inteligence sice může zlepšit některé aspekty chirurgie, jako je předoperační plánování a navigace během operace, ale stále se ve velké míře spoléhá na lidský dohled, aby se předešlo kritickým chybám. Výzkumníci zdůrazňují, že umělá inteligence by měla být vnímána jako doplňkový nástroj, nikoli jako náhrada lidského úsudku.
Kromě toho jsou problematickými oblastmi etika a regulace. Absence jasných norem a specifických předpisů pro zdravotnické prostředky s umělou inteligencí může vést k jejich nevhodnému a potenciálně nebezpečnému používání. Zdravotnické organizace a regulační orgány musí spolupracovat na vytvoření jasných pokynů, které zajistí bezpečnost a účinnost těchto zařízení.
Umělá inteligence má sice potenciál způsobit revoluci v medicíně, je však nezbytné řešit její současná omezení a zajistit, aby její zavádění bylo bezpečné a účinné. Pro orientaci v tomto složitém novém prostředí bude nezbytná spolupráce mezi technology, lékaři a regulačními orgány.