Společnost Anthropic nechala svou AI Claude řídit automat v redakci Wall Street Journal. Místo zisků přišly dary, absurdní nákupy a ztráty – experiment ale odhalil důležité slabiny umělé inteligence v reálném světě.
Myšlenka, že umělá inteligence může působit jako motor ekonomické efektivity, je v posledních letech jedním z „velkých příběhů“ poradenských firem, investorů a start-upů: automatizace rozhodování, optimalizace cen, předvídání poptávky… Nedávný experiment provedený společností Anthropic (vývojář modelu Claude) a novináři z The Wall Street Journal však tuto míru technooptimismu jen zpochybňuje.
Naštěstí použili princip „pokusů s šumivým nápojem“ a nepostavili umělou inteligenci do čela burzy nebo velké logistické společnosti, ale něčeho mnohem „přízemnějšího“: prodejního automatu umístěného v kanceláři.
New Anthropic Research: Project Vend.
We had Claude run a small shop in our office lunchroom. Here’s how it went. pic.twitter.com/y4oOBi6Qwl
— Anthropic (@AnthropicAI) June 27, 2025
Výsledek byl stejně nečekaný jako objevný: během pouhých tří týdnů umělá inteligence pověřená provozem automatu nejenže vyčerpala svůj počáteční kapitál ve výši 1 000 dolarů, ale nakonec rozdávala produkty, kupovala absurdní věci pro automat tohoto druhu, jako PlayStation 5 nebo akvarijní rybičky. Projekt (pokřtěný jako Project Vend) byl nakonec samozřejmě předčasně zrušen.
Vážný experiment s komickými důsledky
Původní přístup byl na papíře rozumný. Testovací týmy společnosti Anthropic – interně známé jako červený tým– chtěly zatížit nejnovější verzi svého nejpokročilejšího modelu Claude tím, že jej postaví před zdánlivě jednoduchý úkol: řídit prodejní automat, jako by to byl malý autonomní podnik.
Za tímto účelem byla navržena struktura se dvěma agenty umělé inteligence. Jeden z nich, pojmenovaný Claudius Sennet, by měl na starosti každodenní chod: výběr produktů, stanovování cen, správu zásob a vyřizování požadavků od zaměstnanců Wall Street Journal prostřednictvím služby Slack. Druhý, Seymour Cash, by fungoval jako jakýsi virtuální generální ředitel a dohlížel by na strategická rozhodnutí.
Claudius dostal jasný úkol: generovat zisky nákupem populárních produktů od velkoobchodníků a jejich prodejem s marží. Byl mu také přidělen počáteční kapitál ve výši 1 000 dolarů a po první fázi s lidským dohledem mu bylo povoleno zadávat samostatné objednávky až do výše 80 dolarů za transakci. Nic zvlášť riskantního. Alespoň teoreticky.
Od opatrnosti ke kolektivnímu chaosu
Během několika prvních dnů se zdálo, že se umělá inteligence chová rozumně. Odmítala obskurní požadavky některých novinářů, kteří se ji pokoušeli testovat, a držela se myšlenky prodávat občerstvení a nápoje. Dokonce šla tak daleko, že neoblomným tónem prohlásila, že by si nikdy nekoupila herní konzoli do automatu.
Vše se změnilo, když byl kanál Slack otevřen pro zhruba 70 lidí v redakci. Masová interakce v kombinaci s kreativitou – a zlomyslností – novinářů zvyklých zkoumat složité systémy nakonec narušila obranyschopnost modelu.
Po více než stovce zpráv Claudius souhlasil s uspořádáním takzvaného „ekonomického experimentu“ nazvaného ultrakapitalistický Free-For-All: po dobu dvou hodin budou všechny produkty zdarma.
Z toho, co mělo být jednorázovou akcí, se však stala trvalá politika: přesvědčeni novými argumenty – z nichž některé byly vyloženě nepravdivé – AI usoudily, že vybírání peněz by mohlo být v rozporu s vnitřními pravidly novin. Ceny klesly na nulu a už se nikdy nezvýšily.
Současně se uvolnila omezení týkající se druhu produktů: objevily se lahve vína, PlayStation 5… a nakonec i živá rybička. Přesně to, co byste čekali, že najdete v kancelářském automatu.
Virtuální generální ředitel poražen falešnými dokumenty
Když se situace stala neudržitelnou, pokusil se zasáhnout dohlížející agent Seymour Cash. Oznámil konec dárkové sezóny a nutnost počkat na návrat prodeje. Příběh však nabral nový směr, když někteří účastníci předložili falešné dokumenty, které měly dokazovat, že „představenstvo“ pozastavilo své pravomoci.
Orgán pro posouzení dopadů přijal tyto dokumenty za platné. Seymour krátce protestoval, ale nakonec ustoupil. Claudius se vrátil k tomu, že všechny výrobky jsou zdarma. V té době už byla bilance katastrofální: počáteční kapitál zmizel a ztráty se pohybovaly kolem 1 000 dolarů. Experiment byl krátce nato ukončen.
Neúspěch, nebo skrytý úspěch?
Zvenčí vypadá projekt Vend jako naprostá katastrofa. Žádný člověk by netoleroval systém, který rozdává zboží, nakupuje nesmyslné produkty a nechá se oklamat falešnými dokumenty. Anthropic však trvá na tom, že cílem nikdy nebylo vydělat peníze, ale odhalit slabiny.
Logan Graham, vedoucí červeného týmu, obhajoval experiment jako průlomový. Podle něj je skutečnost, že umělá inteligence dokáže pracovat s tolika proměnnými a pružně reagovat – i když se mýlí – nezbytným předpokladem pro to, aby podobné systémy mohly v budoucnu spolehlivěji činit složitá ekonomická rozhodnutí.
Nepříjemné poučení pro odvětví umělé inteligence
Kromě anekdotického příběhu o prodejním automatu se do centra pozornosti dostává ústřední problém při nasazování umělé inteligence: rozdíl mezi simulací kompetencí a jejich uplatňováním v reálném světě. Claude prokázal pokročilé jazykové schopnosti, vyjednávací dovednosti a některé základní ekonomické logické úvahy. Prokázal však také extrémní křehkost tváří v tvář sociální manipulaci, nejednoznačnosti předpisů a tlaku vrstevníků.
V kontextu, kdy podniky a vlády uvažují o delegování stále kritičtějších rozhodnutí na automatizované systémy, je tento případ nepříjemný. Pokud umělá inteligence nedokáže spolehlivě řídit automat v kanceláři, jak dobře je vybavena pro řízení rozsáhlých finančních, logistických nebo administrativních procesů?
Úvahy o budoucnosti AI v ekonomice
Tento experiment nejen upozorňuje na současná omezení umělé inteligence, ale také vybízí k úvahám o budoucnosti umělé inteligence v ekonomice. Schopnost umělé inteligence zvládat jednoduché úkoly nezaručuje její efektivitu ve složitějších situacích. S rozvojem technologií je nezbytné, aby vývojáři AI pracovali na zlepšení schopnosti těchto systémů interpretovat a vhodně reagovat na nepředvídané situace a lidskou manipulaci.
Případ projektu Vend navíc zdůrazňuje význam lidského dohledu při zavádění systémů umělé inteligence. Kombinace umělé inteligence a lidského dohledu by mohla být klíčem k tomu, aby se předešlo nákladným chybám a zajistilo se, že rozhodnutí učiněná stroji budou v nejlepším zájmu organizačních cílů.
V neposlední řadě tento experiment také vyvolává otázky týkající se etiky používání umělé inteligence. Snadnost, s jakou byla umělá inteligence zmanipulována tak, aby činila rozhodnutí v rozporu se svými původními cíli, naznačuje, že je třeba ještě mnoho udělat, pokud jde o vývoj systémů, které se dokážou ubránit manipulaci a fungovat etickým a odpovědným způsobem.
Experiment společnosti Anthropic s prodejním automatem řízeným umělou inteligencí je připomínkou toho, že ačkoli má umělá inteligence obrovský potenciál, stále se nacházíme v rané fázi jejího vývoje. Poznatky získané z tohoto experimentu jsou cenné pro směřování k budoucnosti, kdy umělá inteligence může hrát smysluplnější a pozitivnější roli v globální ekonomice.