Třináctihodinový výpadek části AWS v Číně odhalil, jak snadno může lidská chyba spojená s automatizací způsobit rozsáhlé škody. Případ agenta Kira otevírá širší debatu o bezpečném nasazení AI ve firemních systémech – a o tom, proč kontrola zůstává klíčem.
V prosinci byla část AWS v Číně téměř 13 hodin mimo provoz, což vyvolalo příběh, který zní jako z epizody Black Mirror, protože za nejproblematičtějším rozhodnutím stál kódový agent. Podle všeho se agent jménem Kiro rozhodl „smazat a znovu vytvořit“ prostředí při testování nákladů, což je situace podobná restartu routeru, který má vyřešit nedostatek přístupu k internetu.
Problém je v tom, že chyba nebyla na straně Kira, ale na straně člověka, protože agent potřebuje dvě schválení a jeden člověk mu omylem udělil zvýšená oprávnění. Tím otevřel stavidla a dveře k chybám se otevřely dokořán. Amazon od té doby trvá na tom, že „dopad byl velmi omezený“, ale když je váš cloud poskytovatelem, malý problém se změní v masovou hysterii, která se týká všech.
Společnost bohužel přiznává další incident se svým nástrojem Q Developer, který má i bez dopadů na zákazníky dostatečný dopad na to, aby spustil interní poplach ohledně nekontrolované automatizace. Kulturní dopad lze takto shrnout slovy, že Amazon prodává umělou inteligenci, aby urychlila práci, ale pokaždé, když selže, je viník stejný jako vždy: lidský operátor.
Používejte AI s rozumem
Skutečné poučení zde nespočívá v tom, že přestanete modely AI používat, ale v tom, že je nepustíte z vodítka nebo je nenecháte bez dozoru. Chytré je tedy zvolit minimální oprávnění, povinné revize a oddělená prostředí pro testování i produkci. Pro týmy DevOps je naopak klasická debata o automatizaci změn a následné automatizaci řešení chyb, kde jsou kontroly stejně závažné jako samotné nasazení.
Amazon blames human employees for an AI coding agent’s mistake https://t.co/gdk2sFDlqk
— The Verge (@verge) February 20, 2026
Pro zákazníky je naopak nutné vědět, co se stalo, co se změnilo a jak se vyhnout opakování. Podstatná je však realita pro zbytek odvětví, neboť se zdá, že rok 2026 bude rokem, kdy se zprostředkovatelé kódu přesunou ze zkušebního pole na hřiště. Tam jejich stopa přesáhne rámec toho, co můžeme vidět v zákulisí.
Budoucnost automatizace
Automatizace a umělá inteligence mění způsob fungování podniků a Amazon není jedinou společností, která v této oblasti čelí výzvám. Podle zprávy společnosti McKinsey se očekává, že automatizace ovlivní více než 60 % současných profesí, což může v příštích letech drasticky změnit prostředí zaměstnanosti. Společnosti se musí připravit na bezpečné a odpovědné začlenění umělé inteligence a zajistit, aby automatizované systémy byly pod lidskou kontrolou a aby byla zavedena odpovídající bezpečnostní opatření.
Kromě toho se stále více pozornosti věnuje regulaci a etice při využívání AI. Evropská unie například pracuje na legislativě, která stanoví standardy pro používání umělé inteligence a zajistí její etické a bezpečné využívání. Takové předpisy by mohly sloužit jako vzor pro ostatní regiony světa.
V neposlední řadě je důležité poznamenat, že vzdělávání a odborná příprava v oblasti umělé inteligence jsou nezbytné pro přípravu budoucích pracovních sil. Společnosti by měly investovat do vzdělávacích programů pro své zaměstnance a zajistit, aby byli vybaveni potřebnými dovednostmi, které jim umožní pracovat spolu s umělou inteligencí, a ne být jí nahrazeni.