Právě před nadměrným rozvojem umělé inteligence varoval papež František I. ve svém projevu na fóru v Davosu v lednu loňského roku.
Umělá inteligence (AI) je v současné době středem mnoha celosvětových debat, protože má potenciál nepředstavitelným způsobem proměnit společnost. Zatímco se směsí úžasu a strachu očekáváme příchod umělé obecné inteligence (AGI), která slibuje revoluci v našich životech, mnoho autoritativních hlasů vyjadřuje obavy z rychlého rozvoje této převratné technologie. Svůj hlas pozvedli nejen technologičtí experti, jako je Bill Gates, ale také představitelé různých oborů, včetně nedávno zesnulého papeže Františka I.
Papež František, představitel katolické církve, se ve svém poselství jasně vyjádřil, že je třeba věnovat rozvoji umělé inteligence větší pozornost. Podle něj je zásadní, aby si lidstvo zachovalo schopnost rozlišovat mezi realitou a rekonstrukcemi vytvářenými modely AI. Během svého vystoupení na Světovém ekonomickém fóru 2025, známém jako Davoské fórum, se papež podílel na dopise zaslaném tehdejšímu výkonnému předsedovi fóra Klausi Schwabovi. Papež František ve svém poselství zdůraznil etické otázky a otázky lidské bezpečnosti, které vývoj umělé inteligence vyvolává:
„Vývoj umělé inteligence vyvolává důležité otázky týkající se etické odpovědnosti, lidské bezpečnosti a širších důsledků takového pokroku pro společnost“.
Světové ekonomické fórum, které se konalo 20.-24. ledna ve švýcarském Davosu, se zabývalo dopady umělé inteligence na naši společnost. Akce se konala jen několik týdnů předtím, než byl papež František I. hospitalizován v římské nemocnici Agostino Gemelli kvůli dýchacím potížím. Během fóra se diskutovalo o „novém inteligentním věku“, který znepokojil mnoho přítomných představitelů včetně papeže Františka.
Vatican warns that the “shadow of death” looms over AI, emphasizing Pope Francis’ concerns of a “technocratic” future dominated by a few companies.
— AF Post (@AFpost) January 28, 2025
Follow: @AFpost pic.twitter.com/pXCedB7lkb
Papež ve svém dopise zmínil rizika spojená s generativními umělými inteligencemi, které mohou být využity jak k dobru, tak ke zlu, v závislosti na tom, kdo je vycvičí a používá. Jednou z jeho hlavních obav bylo, jak by umělá inteligence mohla ovlivnit „krizi pravdy na veřejném fóru“, neboť výsledky generované těmito modely jsou téměř k nerozeznání od výsledků vytvořených lidmi, což ztěžuje rozlišování mezi pravdivými a nepravdivými informacemi.
Podobné obavy vyjádřili i odborníci z Massachusettského technologického institutu (MIT), kteří poznamenali, že „umělá inteligence neví, jak svět funguje, ale stále lépe a lépe lže, aby nás přesvědčila“ o výsledcích získaných svými algoritmy. To je významný problém, protože generativní modely jsou trénovány na našich znalostech, jsou stále přesnější a nerozlišují.
Papež František zdůraznil, že lidé si musí zachovat schopnost omezit pokrok umělé inteligence, pokud to znamená zachovat si schopnost jasně rozlišovat mezi realitou a rekonstrukcemi vytvářenými počítačovými modely. Vyzval k „pečlivosti a bdělosti“ a doufá, že tato slova budou rezonovat v myslích světových lídrů.
Obavy papeže Františka nejsou ojedinělé. Organizace, jako je UNESCO, vyzvaly vlády, aby vytvořily etické rámce pro využívání umělé inteligence a zajistily, že bude využívána zodpovědně a ku prospěchu lidstva. S rozvojem této technologie je zásadní, aby byly zavedeny jasné předpisy a pokyny, které zabrání tomu, aby se umělá inteligence stala nástrojem dezinformací a manipulace.
Závěrem lze říci, že s dalším rozvojem umělé inteligence je zásadní, aby si společnost zachovala kritický a etický přístup k jejímu vývoji a používání. Schopnost rozlišovat fakta od fikce vytvářené umělou inteligencí je nezbytná pro zachování integrity informací a pravdy ve veřejné sféře.