Důvěra vědců v umělou inteligenci meziročně výrazně klesla – i přesto, že ji využívají víc než kdy dřív. Rostoucí obavy z halucinací, etiky i bezpečnosti ukazují, že AI sice fascinuje, ale zároveň budí stále více otázek.
Vědci jsou od přírody skeptičtí, je to v učebnicích. Ale pokud jde o umělou inteligenci, u vědců roste nedůvěra ve skutečné schopnosti této technologie. Předběžná zpráva akademického nakladatelství Wiley odhaluje něco zarážejícího: důvěra vědců v umělou inteligenci klesla ve srovnání s rokem 2024, tedy právě v době, kdy je tato technologie technicky nejvyspělejší a její využití mezi výzkumníky v laboratořích roste.
Jak se můžeme dočíst v časopise Futurism, v roce 2024 se 51 % dotázaných vědců obávalo halucinací AI. Tento podíl se v roce 2025 zvýšil na pozoruhodných 64 %, zatímco využívání AI mezi výzkumníky vzrostlo ze 45 % na 62 %. Halucinace jsou oním až příliš známým problémem, kdy jazykové modely chrlí zcela vymyšlené informace, jako by to byla absolutní pravda.
Stále méně důvěry
Obavy z problémů s bezpečností a soukromím vzrostly oproti předchozímu roku o 11 %. Stejně tak vzrostly obavy o etiku a transparentnost při využívání umělé inteligence. To je v příkrém rozporu s optimismem, který převládal ještě před dvanácti měsíci, kdy začínající firmy zabývající se umělou inteligencí denně plnily titulky novin svými sliby, které nyní znějí méně reálně.
Související článek
Nejdramatičtěji však poklesla očekávání ohledně toho, co umělá inteligence dokáže. V roce 2024 se dotázaní vědci domnívali, že umělá inteligence již předčí lidské schopnosti ve více než polovině případů použití. V roce 2025 toto přesvědčení kleslo na méně než třetinu. To není málo: odráží to, že odborníci, kteří s těmito systémy pracují na denní bázi, začínají být mnohem realističtější.
Údaje jsou v souladu s předchozími výzkumy: čím více se dozvíte o tom, jak umělá inteligence funguje, tím méně jí věříte. A platí to i naopak: největšími nadšenci bývají ti, kteří o fungování těchto systémů vědí nejméně. Dává smysl, že odborníci začínají pochybovat po měsících práce s reálnými omezeními technologie.
Halucinace jsou vážným problémem, který již způsobil velké problémy u soudů, v lékařských ordinacích a dokonce i v cestovních kancelářích. A není snadné ho napravit: květnové testy ukázaly, že modely halucinovaly více, i když byly technicky výkonnější. Samotné vylepšení technologie problém nevyřeší.
Je zde také nezanedbatelný komerční problém. Odborníci poukazují na to, že uživatelé dávají přednost jazykovým modelům, které působí sebejistě, i když si odpovědi vymýšlejí, na rozdíl od jiných, které přiznávají, když něco nevědí. Pokud by společnosti jako OpenAI halucinace z ruky odstranily, přišly by o uživatele v houfech. Tento rozpor mezi poskytováním spolehlivých odpovědí a udržením spokojenosti uživatelů situaci dost komplikuje.
To vše kontrastuje s prohlášeními některých vývojářů AI o transformačním potenciálu této technologie. Zatímco někteří technologičtí lídři slibují revoluce, výzkumníci pracující s těmito systémy se drží mnohem blíže k zemi. Jejich skepse nepramení ze strachu ze změn, ale z každodenní práce s tím, co AI skutečně umí a neumí.
Etické dilema a budoucnost AI
Kromě technických problémů je žhavým tématem i etika umělé inteligence. Vědci se stále více obávají zneužití AI, například manipulace s informacemi nebo narušení soukromí. Podle zprávy Stanfordovy univerzity vytvořila absence jasných předpisů a rychlost technologického vývoje etické vakuum, které je naléhavě třeba řešit, aby se předešlo dlouhodobým negativním důsledkům.
Budoucnost umělé inteligence závisí nejen na technologickém pokroku, ale také na tom, jak se společnost rozhodne tyto nástroje začlenit do svého každodenního života. Odborníci naznačují, že je zapotřebí globální politiky a mezinárodní spolupráce, aby se zajistilo, že se AI bude vyvíjet zodpovědně a způsobem, který bude prospěšný pro všechny. Vzdělávání a informovanost veřejnosti jsou rovněž zásadní pro přípravu budoucích generací na svět, v němž bude AI všudypřítomná.
Ačkoli umělá inteligence zůstává mocným nástrojem s potenciálem změnit celá průmyslová odvětví, rostoucí nedůvěra mezi vědci podtrhuje potřebu opatrnějšího a uvážlivějšího přístupu. Nakonec je skutečnou výzvou nejen zdokonalení technologie, ale také zajištění jejího etického a odpovědného využívání. Pokud máte pochybnosti o všem tom humbuku kolem umělé inteligence, zeptejte se vědce. Pravděpodobně vám poskytne mnohem méně optimistický pohled, než byste čekali.