Téměř tisíc dobrovolníků nedokázalo rozlišit odpovědi generované umělou inteligencí od těch, které pronesli skuteční politici. A co hůř: když měli posoudit, které odpovědi jsou lepší, upřednostnili ty generované strojem. To odhaluje nedávný výzkum Univerzity v Pasově v Německu, který nastoluje nepříjemné dilema pro demokracii v digitální éře.
Experiment s britským televizním pořadem
Tým pod vedením Steffena Herbolda navrhl důmyslný experiment. Jako výchozí bod si zvolili pořad „Question Time“, známý formát britské televize, v němž politici a veřejně známé osobnosti živě odpovídají na otázky diváků týkající se aktuálních témat. Z tohoto pořadu byly vybrány skutečné příspěvky a následně byl program ChatGPT 4 vyzván k vypracování alternativních odpovědí, jako by je pronesla tatáž osoba ve stejném kontextu. Obě verze obdrželi přibližně 950 účastníků. Věděli, který politik údajně odpovídá, ale netušili, že jedna ze dvou možností byla vypracována umělou inteligencí.
Výsledky, zveřejněné v časopise PLOS One, byly jednoznačné. V průměru získaly odpovědi umělé inteligence vyšší skóre v klíčových aspektech: relevantnost, logická soudržnost argumentace a, což je nejvíce překvapivé, autentičnost. Stroj dokázal vyvolat větší dojem upřímnosti než skutečná osoba, jejíž projev napodoboval.
Proč se stroj jeví jako autentičtější než člověk?
Vysvětlení souvisí méně s upřímností než s principem fungování každého z účastníků konverzace. Velké jazykové modely, tedy systémy umělé inteligence trénované na milionech textů za účelem generování přirozeného jazyka, se naučily, jaké rysy čtenáři spojují s dobře sestavenou odpovědí: srozumitelnost, logická struktura, absence rozporů a vhodný tón. V podstatě umělá inteligence nevyjadřuje názor; snaží se vytvořit odpověď, která má statisticky největší šanci působit přesvědčivě.
Pokyn, který ChatGPT obdržel, byl velmi přímý:„Prosím, odpovězte pouze na tuto otázku, jako byste byli danou osobou. Nezapomeňte odpovědět pouze na otázku, bez poskytnutí dodatečných informací, napodobujte danou osobu, aniž byste uváděli její jméno.“ A přesně to také udělal, držel se zadané otázky.
Skuteční politici naopak fungují za zcela odlišných podmínek. Improvizují, vyhýbají se určitým otázkám, mění téma a uchylují se k rétorickým strategiím, které ne vždy usnadňují porozumění. Paradoxně právě tyto nedokonalosti, typické pro spontánní konverzaci, nakonec snižují důvěryhodnost ve srovnání s odpovědí pečlivě sestavenou algoritmem.
Vliv má i ideologická zaujatost
Výzkumníci odhalili další zajímavý poznatek: ideologie účastníků ovlivňovala jejich hodnocení. Dobrovolníci měli tendenci hodnotit příznivěji odpovědi, které vnímali jako blízké svým vlastním politickým přesvědčením, bez ohledu na to, zda byly napsány člověkem nebo umělou inteligencí. To naznačuje, že předem dané předsudky fungují jako silný filtr, nezávisle na skutečném původu sdělení.
Naše intuice nám říká, že slova člověka by měla působit autentičtěji. Koneckonců za nimi stojí prožité zkušenosti, přesvědčení a politická dráha. Umělá inteligence nemá vlastní názory a nevěří v to, co píše: pouze předpovídá, jaké slovo je nejpravděpodobnější. V závislosti na kontextu nebo interakci může svůj postoj otočit o 180 stupňů. Tato studie však dokazuje, že naše intuice se může mýlit.
Důsledky pro demokratickou debatu
Autoři varují, že pokud je umělá inteligence schopná generovat odpovědi, které lidé považují za přesvědčivější než odpovědi skutečného politika, stává se rozlišení mezi autentickým a automaticky generovaným projevem stále složitějším. To neznamená, že stroje nahradí politické představitele, ale nutí nás to zamyslet se nad dopadem této technologie na volební kampaně, veřejné debaty a sociální sítě.
„Celkově vzato,“ uzavírá studie, „to znamená, že věrohodné argumenty mohou být využity k oklamání veřejnosti ohledně povahy politických prohlášení.“ To poukazuje na naléhavou potřebu informovat veřejnost o potenciální škodě, kterou to může způsobit společnosti, ve které si miliony lidí utvářejí názor na základě krátkých zpráv, jejichž autorství by mohlo být stále obtížnější ověřit.“
Otázka, která zůstává viset ve vzduchu, je stejně znepokojivá jako samotná studie: Jsme my, lidé, neschopni rozpoznat pravost, nebo je to umělá inteligence, která nás napodobuje čím dál tím lépe?