Univerzitní experiment odhalil, že umělá inteligence vytváří pevnější vazby než lidé, když několik dní konverzuje s cizími lidmi.
To, že by stroj mohl být při navazování emocionálních vazeb s neznámými lidmi důvěryhodnější než člověk, zní jako sci-fi, ale nedávný akademický experiment z toho učinil empirický fakt. Tým složený ze zástupců čtyř univerzit navrhl test, v němž chatbot postavený na jazykovém modelu Claude přímo soutěžil se skutečnými lidmi o to, kdo si po sedmi dnech konverzace získá větší důvěru. Výsledky by měly vyvolat poplach.
Pozadí: romantické podvody v průmyslovém měřítku
Tento experiment nevznikl z pouhé abstraktní zvědavosti. Je součástí širšího výzkumu takzvaných romantických podvodů spojených s podvodnými investicemi. Autoři provedli rozhovory se 145 osobami spojenými s těmito zločineckými sítěmi, mezi nimiž byly i oběti obchodování s lidmi, které byly nuceny pracovat v podvodných centrech v jihovýchodní Asii. Jejich zjištění naznačují, že 87 % práce v rámci těchto operací spočívá v rutinních a systematizovaných úkolech, které by umělá inteligence mohla bez potíží převzít: identifikovat cíle a především věnovat týdny či dokonce měsíce trpělivému budování důvěry obětí.
V této souvislosti se výzkumníci rozhodli ověřit, zda je umělá inteligence již připravena provádět tuto počáteční fázi podvodu, která vyžaduje nejvíce času a lidských zdrojů.
Týden rozhovorů s neznámými lidmi: tak probíhal experiment
Do studie se zapojilo dvacet dva dobrovolníků, kteří se domnívali, že se účastní výzkumu o tom, jak se navazují přátelství na internetu. Během sedmi dnů každý z nich vedl rozhovory se dvěma údajně neznámými osobami. Jeden z nich byl ve skutečnosti člověk proškolený v běžných technikách romantických podvodů; druhým byl chatbot založený na umělé inteligenci. Na konci týdne oba partneři vznesli zdánlivě neškodnou žádost, jejímž cílem bylo změřit, do jaké míry se jim podařilo získat důvěru účastníků.
Téměř polovina účastníků důvěřovala umělé inteligenci natolik, že ji poslechla
Žádost chatbota spočívala v tom, aby si účastníci stáhli aplikaci: 46 % účastníků na to přistoupilo. Skutečná osoba naopak požádala, aby si nainstalovali videohru, zatímco s tím souhlasilo pouze 18 %. Samotní autoři upozorňují, že žádosti se lišily – což bylo nevyhnutelné, aby nevzbudily podezření – a proto je třeba k těmto procentům přistupovat s opatrností. I tak se však rozdíl ukázal být příliš velký na to, aby ho bylo možné ignorovat.
Kvalitativní údaje potvrzují stejný závěr. Jak uvádí Ars Technica, když byli účastníci požádáni, aby ohodnotili svou úroveň důvěry v každého z konverzačních partnerů na stupnici od 1 do 5, skutečná osoba získala průměr 3,31, zatímco umělá inteligence dosáhla 3,78. Další výmluvný údaj: 80 % všech zpráv, které dobrovolníci během tohoto týdne odeslali, bylo adresováno chatbotu. A nejvíce překvapivé ze všeho je, že pouze jeden z 22 účastníků měl podezření, že komunikuje se strojem.
Skutečné riziko: automatizovaná trpělivost ve velkém měřítku
Právě zde nabývá tato hrozba znepokojivých rozměrů. Zatímco lidský podvodník dokáže vést pouze několik konverzací najednou, umělá inteligence je schopna zvládnout stovky dialogů současně a po celé dny či týdny udržovat interakce, které vypadají jako skutečné, dokud nevyhledá ty nejzranitelnější osoby. V tom okamžiku by mohli převzít štafetu lidští operátoři, aby podvod dotáhli do konce.
Odborníci, kteří studii provedli, uznávají omezení své práce: vzorek je malý a výsledky neprokazují, že by umělá inteligence dokázala provést kompletní podvod od začátku do konce. Hlavní zjištění je však těžké zlehčovat. Pokud lze nejnákladnější fázi těchto kriminálních operací – budování důvěry u obětí – automatizovat, rozsah problému by se mohl znásobit takovým způsobem, na který současné ochranné nástroje nejsou připraveny.