Kniha Isabel Allendeové Přílivové sny je jedním z doporučení na letošní léto. Škoda, že ji nikdy nenapsala.
Před několika dny dostali čtenáři dvou respektovaných amerických novin, Chicago Sun-Times a Philadelphia Inquirer, spolu s nedělním výtiskem rozsáhlou letní přílohu plnou článků o kultuře, jídle, zábavě a letní četbě. Na první pohled to vypadalo jako odlehčený průvodce novou sezónou.
Při pozorném čtení se však ukázalo, že publikace je prošpikovaná dezinformacemi generovanými umělou inteligencí: falešnými citáty, fiktivními odborníky, neexistujícími knihami a tvrzeními bez jakýchkoli spolehlivých zdrojů. Tento incident poukázal na rostoucí obavy ohledně používání umělé inteligence při vytváření obsahu, zejména v žurnalistice, kde jsou přesnost a pravdivost prvořadé.
Související článek
Tato epizoda také poukázala na reálná rizika integrace generativní umělé inteligence do médií tím, že nahradí lidský dohled masovou automatizací a odhalila znepokojující odtržení zpravodajských redakcí od obsahu, který publikují se svým titulem. Automatizace sice může být mocným nástrojem pro zvýšení efektivity, ale může také vést k šíření dezinformací, pokud není implementována s náležitou péčí a dohledem.
Sbírka vynálezů převlečených za žurnalistiku
Příloha o 64 stranách nazvaná „To nejlepší z léta“ obsahovala seznam četby, který rychle vzbudil podezření jak mezi čtenáři, tak mezi autory: knihy jako Přílivové sny Isabel Allendeové nebo nadšeně doporučovaní Stvořitelé deště Percivala Everetta? No, prostě neexistují, i když je příloha představila s podrobnými synopsemi.
The Chicago Sun-Times published an upcoming summer books list that is obviously AI. The clues are that there is no byline and at least 8 of these titles do not exist. pic.twitter.com/SfhZpG456C
— Patricia Correll (@Author_PCorrell) May 20, 2025
Ve skutečnosti je 10 z 15 uvedených knih naprostým výmyslem. To byl ale jen začátek kontroverze. Brzy se zjistilo, že i další články ve stejné příloze obsahují vymyšlené informace:
- Catherine Furstová, údajná antropoložka z Cornellovy univerzity, hovořila o trendech ve spotřebě mražených dezertů.
- V jiném článku o sezónním stravování byla některá tvrzení připsána Sophii Chenové, odbornici na výživu a autorce knihy Jíst podle sezóny? Ale ani ona, ani kniha neexistují.
- V rubrice „Tipy na letní hudbu“ se objevil citát připisovaný Danielu Levitinovi, hudebnímu neurovědci, pro jehož existenci neexistuje žádný ověřitelný zdroj.
- Dokonce tam byl i citát Padmy Lakshmi, údajně převzatý z časopisu Bon Appétit. Autorka i kniha existují, buďte ujištěni, ale dotyčný citát ne.
- Uvedena je také záhadná „profesorka volnočasových studií“ jménem Jennifer Camposová, o níž (k ničímu překvapení) neexistuje žádná akademická ani profesní stopa.
Na druhou stranu výzkumník v oblasti kybernetické bezpečnosti Kyle Kingsbury na svém osobním blogu vysvětlil, že nejde jen o problém nepravdivých tvrzení, ale o samotný styl textu, který prý „smrdí umělou inteligencí“ na míle daleko. Nebo abychom použili jeho vlastní slova:
„Neobvykle nadšené používání přídavných jmen pokrývá celý dodatek mastným leskem“.
Proč článek vyšel bez revize
Autorem části obsahu je Marco Buscaglia, který přiznal, že k vygenerování textů použil umělou inteligenci a přiznal, že je nekontroloval:
„Byla to z mé strany obrovská chyba. Je to stoprocentně moje odpovědnost“.
Vysvětlil, že šlo o „obecný, propagační“ obsah, který si objednala společnost King Features – společnost zabývající se syndikací obsahu, kterou vlastní obří průmyslová společnost Hearst – a ta jej následně distribuovala novinám jako přílohu připravenou k tisku. Podobné praktiky sice nejsou nové, ale s nástupem umělé inteligence, která umožňuje generovat velké objemy obsahu v krátkém čase, ale často na úkor kvality a přesnosti, získaly nový rozměr.
Společnost King Features vydala prohlášení, že Buscaglia svým používáním umělé inteligence porušil její zásady, a proto s ním ukončila spolupráci. Škoda však již byla napáchána. Tento incident zdůrazňuje, že je třeba, aby mediální společnosti zavedly jasné a přísné zásady používání umělé inteligence a zajistily, že veškerý obsah vytvořený umělou inteligencí bude před zveřejněním důsledně přezkoumán.
Deník Chicago Sun-Times ze své strany přiznal, že dodatek byl do jeho nedělního vydání přidán bez předchozí redakční kontroly a bez uvedení, že pochází od třetí strany. Takovéto chyby mohou narušit důvěru veřejnosti v média, která je již nyní na historicky nízké úrovni.
Reakce veřejnosti po vypuknutí sporu byla naprosto rozhořčená: „Jaký má smysl platit za noviny, když obsahují tyto počítačem vygenerované nesmysly?“
Reakce a následky
Tento skandál však není ojedinělou událostí, ale výsledkem dokonalé bouře: redakce novin redukované rozpočtovými škrty, zrychlená automatizace redakčních úkolů a rostoucí závislost na levném syndikovaném obsahu. Jen o dva měsíce dříve Sun-Times oznámil, že 20 % zaměstnanců přijalo dobrovolné propuštění, aby zmírnilo finanční napětí. Tento kontext nejistoty zaměstnání a ekonomického tlaku může vést k ukvapeným rozhodnutím a přijímání technologických řešení bez náležitého uvážení.
Novináři Sun-Times požadovali, aby vedení Chicago Public Media přijalo důrazná opatření, která by zabránila opakování situace, a Sun-Times slíbil změny ve své redakční politice, včetně jasného označení obsahu třetích stran a proplacení hodnoty dotčeného vydání předplatitelům. Taková opatření jsou nezbytná pro obnovení důvěry veřejnosti a zajištění toho, aby média zůstala spolehlivým zdrojem informací.