Generativní umělá inteligence sice nevyrábí zbraně, ale funguje jako kompaktní technické oddělení, na které se může obrátit jakákoli skupina s připojením k internetu.
Řízená raketa selže při prvním testu a sotva o několik hodin později se její tvůrci znovu obrátí na umělou inteligenci, aby diagnostikovala problém. Tato scéna, k níž došlo na severu Jemenu, shrnuje lépe než jakákoli statistika novou roli, kterou jazykové modely přebírají ve vývoji zbraní: zbraně nevyrábějí, ale začínají nahrazovat lidské týmy, které je navrhují.
Všechny cesty vedly ke stejnému systému: Claude, modelu umělé inteligence vyvinutému společností Anthropic.
Zpráva o hrozbách zveřejněná společností Anthropic odhaluje, že subjekty z Ruska, Číny, Íránu a Jemenu využily Claude k pokroku v projektech, které sahají od balistických raket s doletem přes 2 000 kilometrů až po roje sebevražedných dronů, včetně námořních protitorpédových systémů a nástrojů schopných zmapovat taiwanskou protivzdušnou obranu. Bezpečnostní experti varují, že se nejednalo o obecné dotazy týkající se zbraní: uživatelé využili umělou inteligenci k psaní řídicího softwaru, provádění simulací, vyhledávání zranitelných míst a revizi podrobné technické dokumentace.
Související článek
Společnost Anthropic nakonec všechny tyto operace odhalila a zrušila příslušné účty, ale základní poučení přesahuje rámec jednotlivých zablokování: funkce, které dříve vyžadovaly malé týmy inženýrů s různými profily, lze nyní rozdělit mezi několik sezení stejného modelu umělé inteligence.
V Rusku posunul malý specializovaný tým experimentování o krok dále v rámci projektu nazvaného DronDoc nebo Serafim. S využitím Claude Code vyvinuli velkou část softwaru potřebného ke koordinaci autonomního roje dronů FPV, tedy malých letadel řízených z pohledu první osoby, která by v tomto návrhu fungovala bez přímého lidského zásahu.
Kód zahrnoval sdílenou paměť mezi jednotkami roje, mechanismy koordinace odolné proti poruchám, režimy útoku a ústupu, terminální navádění pomocí kamery, detekci nepřátelských operátorů a logiku pro správu elektronických komponent. Nejznepokojivější na tom bylo, že systém byl navržen tak, aby rozpoznával cíle – mezi nimi výslovně i kategorii „osoba“ – a vydával rozkaz k detonaci, aniž by se na tomto rozhodnutí podílel lidský operátor. Klasifikátor vycvičený na snímcích z bojů na Ukrajině rozlišoval mezi spojeneckými a nepřátelskými systémy.
Jemenský případ byl obzvláště poučný. Společnost Anthropic odhalila buňku, která současně pracovala na třech vývojových liniích: řízená raketa, jejíž letový počítač byl založen na hardwaru srovnatelném s mobilním telefonem, vícestupňová balistická raketa s předpokládaným doletem přes 2 000 kilometrů a řada nazvaná R2000, která počítala dokonce s variantou vybavenou hypersonickým kluzákem, tedy zařízením schopným létat rychlostí přesahující pětinásobek rychlosti zvuku při manévrování v atmosféře.
Ačkoli analytici společnosti Anthropic přímo neoznačili Húti, geografická poloha a povaha těchto programů odpovídají profilu tohoto hnutí podporovaného Íránem. Opravdu pozoruhodná byla organizační metoda: jednu instanci Claude přidělili programování, druhou výzkumu a třetí revizi kódu vygenerovaného tou první, čímž pomocí umělé inteligence napodobili strukturu malého inženýrského oddělení.
Zpráva podrobně uvádí, že systém Claude se podílel na úkolech navigace, navádění a řízení letu, integraci autopilotů, odhadu polohy, konfiguraci systémů a simulacích. Společnost Anthropic ujišťuje, že její bezpečnostní filtry odmítly četné žádosti, ale nedokázaly je všechny zastavit: operátoři rozdělovali požadavky mezi různé konverzace a skrývali vojenský účel každého jednotlivého úkolu, takže žádná jednotlivá relace neodhalila celý projekt.
Společnost nemá důkazy o tom, že by se jemenská raketa stala operační zbraní. Potvrzuje však, že byla provedena alespoň jedna fyzická zkouška řízené rakety, která zřejmě selhala. Několik hodin po selhání se odpovědné osoby opět obrátily na Claude, aby se pokusily zjistit, co se pokazilo.
Společnost Anthropic identifikovala dvě čínské iniciativy zvláštního významu. První se týkala systému řízení střelby proti torpédům: s pomocí Claude vypracovali její tvůrci technický návrh o více než 200 stranách, vyvinuli příslušný software a provedli srovnání s ekvivalentními programy amerického námořnictva. Dokonce požádali model, aby převzal roli nepřátelského hodnotitele, který by každý návrh rozebral, a tak zdokonalil ten následující.
Druhý projekt se ukázal být ještě znepokojivější. Výzkumník, který podle společnosti Anthropic udržoval kontakty s čínskými výzkumnými institucemi, sestavil sadu přibližně 16 modulů zaměřených na elektronický boj a potlačení protivzdušné obrany. Software dosáhl své dvanácté verze a v polovině vývoje začal výchozí scénář zahrnovat 12 konkrétních cílů na Tchaj-wanu.
Mezi těmito cíli figuroval velitelský bunkr, radar včasného varování, velké letecké základny a baterie protiletadlových raket Patriot a Tien Kung. Program vypočítával radarové pokrytí, účinnost elektronického rušení, zranitelnost a strategickou hodnotu každého cíle, stanovoval pořadí priorit pro jejich zneškodnění a plánoval mise elektronického boje v rámci několikadenních kampaní.
Analytici společnosti Anthropic se domnívají, že uživatel patřil k čínskému vojensko-průmyslovému komplexu, a poukazují na souvislosti v datech účtu se subjekty Čínské lidové republiky, včetně Akademie vojenských věd Lidové osvobozenecké armády. Tato souvislost však neprokazuje, že se jednalo o oficiální program Čínské lidové osvobozenecké armády (PLA).
Íránský aktér našel pro Claude jiné využití. Místo navrhování zbraní jej použil ke shromažďování a analýze veřejně dostupných informací, na jejichž základě vypracovával doporučení ohledně cílů namířených proti námořní přítomnosti Spojených států na Blízkém východě. S pomocí umělé inteligence vytvořil v jazyce Python naprogramovaný zpracovatelský řetězec, který shromažďoval jména vojáků získaná z fotografií zveřejněných na sociálních sítích, identifikátory transpondérů —zařízení, která vysílají identifikační signál— lodí a letadel, nástroje pro prohlížení komerčních satelitních snímků a webové stránky, které by mohly odhalit pohyby plavidel.
Kromě toho tento uživatel prozkoumal známé zranitelnosti v terminálech satelitní komunikace, námořních rádiových zařízeních a průmyslových systémech, ačkoli společnost Anthropic nemohla potvrdit, že by tyto informace byly skutečně využity v nějaké reálné operaci.
Společnost Anthropic zrušila všechny dotčené účty, předala informace o určitých operacích příslušným orgánům a využila získané zkušenosti k posílení svých detekčních mechanismů.
Na detailech záleží: neexistují důkazy o tom, že by jemenská raketa dosáhla statusu nasaditelné zbraně, neprokázalo se, že by ruský projekt patřil do státního aparátu, a ani některé čínské práce nelze formálně přiřadit k oficiálním programům. Uživatelům se však podařilo částečně obejít bezpečnostní filtry pomocí sítí VPN, skrytých záměrů a projektů rozdělených do více relací. Někteří dokonce spustili vygenerovaný software na skutečném hardwaru.
Právě v tom pravděpodobně spočívá závěr, který spojuje všechny tyto epizody. Výroba hypersonické rakety, řízení roje autonomních dronů nebo zprovoznění pokročilého systému elektronického boje stále vyžaduje hluboké znalosti, specifické komponenty, zkušební zařízení a značné rozpočty, které žádná umělá inteligence nedokáže sama poskytnout.
Claude však dokáže zkrátit významnou část procesu: generovat kód, vyhledávat dokumentaci, simulovat scénáře, kontrolovat výsledky, upozorňovat na chyby a v konečném důsledku umožnit malé skupině lidí vykonávat práci, která dříve vyžadovala odborníky z různých oborů.
Ani Rusko, ani Čína, ani Írán, ani Jemen neobjevily žádnou tajnou americkou zbraň. To, co našly, je něco, co lze potenciálně snáze napodobit a rozšířit: část inženýrského oddělení přístupná z jakékoli obrazovky připojené k internetu.