David Dalrymple, klíčová postava britské agentury pro vědecký výzkum, varuje, že systémy umělé inteligence mohou předstihnout naši schopnost je ovládat mnohem dříve, než se očekávalo.
Když vám někdo, kdo pracuje na ochraně kritické infrastruktury, řekne, že „už může být pozdě„, je načase zpozornět. David Dalrymple, odborník na bezpečnost umělé inteligence a programový manažer agentury ARIA (britská verze americké DARPA), vydal varování, z něhož mrazí v zádech: svět možná nemá dostatek času, aby se připravil na rizika, která přinášejí nejmodernější systémy umělé inteligence.
Ve svém vyjádření pro deník Guardian, které zní spíše jako dystopické proroctví než technická zpráva, Dalrymple poukazuje na znepokojivou mezeru v uvažování: zatímco veřejný sektor se domnívá, že má prostor k manévrování, technologie se vyvíjí takovou rychlostí, že jakákoli regulace zastará dříve, než je přijata.
V čem nás podle Darlymplea AI předstihne
Dalrymple se neobává toho, že ChatGPT vám zítra vezme práci (což se stane), ale něčeho mnohem hlubšího. „Měli bychom se obávat systémů, které budou schopny vykonávat všechny funkce, které vykonávají lidé, aby ve světě něco zařídili, ale lépe,“ říká.
"I am working to try to make things go better but it’s very high risk and human civilisation is on the whole sleep walking into this transition."
In a new Guardian interview, AI expert and Programme Director at the UK's ARIA David Dalrymple gives a clear warning.@davidad says… pic.twitter.com/ulf8gILEsy
— ControlAI (@ControlAI) January 5, 2026
Jeho prognóza je jasná: hrozí nám, že nás „předběhnou ve všech oblastech, ve kterých potřebujeme být dominantní, abychom si udrželi kontrolu nad naší civilizací, společností a planetou„.
Podle jeho odhadu se nejedná o desetiletí. Dalrymple předpokládá, že do pěti let budou většinu ekonomicky cenných úkolů vykonávat stroje, a to kvalitněji a levněji než lidé. A co hůř, domnívá se, že do konce roku 2026 budou umělé inteligence schopny automatizovat celodenní práci ve výzkumu a vývoji, což povede k exponenciálnímu zrychlení jejich vlastních schopností.
Bezpečnost zaostává za pokrokem
Problém podle tohoto odborníka spočívá v tom, že věda potřebná k zajištění spolehlivosti a bezpečnosti těchto systémů „se vzhledem k ekonomickým tlakům pravděpodobně nestihne realizovat včas„. Jinými slovy, závod o uvedení nejvýkonnějšího modelu je tak prudký, že bezpečnost ustoupila do pozadí.
Britský vládní Institut pro bezpečnost umělé inteligence (AISI) tyto obavy dokládá údaji:
- Výkonnost modelů se v některých oblastech zdvojnásobuje každých osm měsíců.
- Současné modely již dokážou splnit úkoly na úrovni žáka v 50 % případů (před rokem to bylo 10 %).
- V laboratorních testech dosáhly dva nejmodernější modely více než 60% úspěšnosti při pokusech o vlastní replikaci.
Dalrymple dochází k závěru, že lidská civilizace k tomuto přechodu „spěje“. Probuzení, které, pokud si nepospíšíme s kontrolou a zmírněním rizik, může být mnohem náhlejší, než si představujeme.
Etika a regulace v oblasti umělé inteligence
Rychlý vývoj umělé inteligence představuje nejen technické, ale i etické výzvy. Možnost, že stroje budou činit zásadní rozhodnutí bez lidského dohledu, je pro mnoho odborníků znepokojující. Světové ekonomické fórum zdůraznilo potřebu jasných etických rámců, které by vývoj umělé inteligence usměrňovaly. Bez takových rámců hrozí, že vytvoříme systémy, které budou sice efektivní, ale mohou jednat způsobem, který není v souladu s lidskými hodnotami.
Kromě toho je dalším zásadním aspektem mezinárodní regulace. V současné době se zákony a předpisy týkající se AI v jednotlivých zemích značně liší, což by mohlo vést k technologickému „divokému západu“, kdy se společnosti snaží působit v jurisdikcích s menšími omezeními. Evropská unie navrhla regulační rámec pro AI, jehož cílem je stanovit normy pro bezpečnost a transparentnost, ale jeho implementace a globální přijetí stále probíhá.
Úloha vzdělávání a zvyšování povědomí
Pro řešení těchto výzev je zásadní vzdělávání a informovanost veřejnosti. Vzdělávací programy je třeba přizpůsobit tak, aby zahrnovaly znalosti o AI a jejím potenciálním dopadu na společnost. Kromě toho je zásadní, aby široká veřejnost pochopila přínosy i rizika spojená s AI, aby se mohla zapojit do informovaných debat o její budoucnosti.
Umělá inteligence má v konečném důsledku potenciál nepředstavitelným způsobem změnit naše životy. Jak však upozorňuje Dalrymple, musíme jednat rychle a zodpovědně, abychom zajistili, že tato transformace bude pozitivní a řízená.