OSN o tomto problému diskutuje už léta, ale mezi zeměmi nepanuje shoda. Robotika je oblastí technologie, která může být využita jak pro dobro, tak pro zlo.
V roce 1139 papež Inocenc II. zakázal používání kuší. Označil ji za „zbraň odpornou Bohu a nehodnou křesťanů“, i když ji považoval za platnou pro boj s nevěřícími. Toto opatření nebylo respektováno a kuše se používala i v následujících staletích. Historie zbraní byla vždy spojena s těmito zákazy a nyní je tu jeden obzvlášť citlivý: ten, který se týká takzvaných „robotů zabijáků“.
Příklad kuše byl jen jedním z mnoha, které provázely vývoj vojenských zbraní a jejich použití ve válce. V roce 1970 vstoupila v platnost Smlouva o nešíření jaderných zbraní, která má zabránit používání jaderných zbraní, ale mezinárodní právo zakazuje také používání chemických, biologických a minových zbraní. Tyto dohody zpravidla neratifikují všechny země světa, ale naprostá většina z nich.
Pozor na autonomní zbraně
Jak uvádí agentura Reuters, Organizace spojených národů svolala schůzku k regulaci segmentu autonomních zbraní řízených umělou inteligencí. Tento typ zbraní se v moderních válkách používá stále častěji a odborníci varují: je načase zavést omezení pro používání této smrtící technologie.
To, co vidíme v ukrajinské válce, je příkladem toho, jak se autonomní zbraně používají. Drony a roboti jsou v pozoruhodné míře používáni proti ruským jednotkám a drony již vypouštějí bezpilotní letouny, aby útočily na jiné drony. Význam tohoto typu zbraní dokonce ovlivnila obchodní válka mezi USA a Čínou, která ohrožuje výrobu a vývoz těchto autonomních vozidel. Deník New York Times již varoval před vzestupem obávaných „dronů kamikadze“ a jejich využitím v tomto konfliktu.
Využití těchto technologií se navíc neomezuje pouze na ozbrojené konflikty. Drony a autonomní roboti se používají také ke sledování a kontrole hranic, což vyvolává vážné obavy o soukromí a lidská práva. Podle zprávy Amnesty International by nasazení těchto technologií bez odpovídající regulace mohlo vést k závažnému porušování lidských práv.
Generální tajemník OSN Antonio Guterres stanovil rok 2026 jako konečný termín pro všechny země, aby stanovily jasná pravidla pro používání uměle inteligentních zbraní. Jeho slova jsou jasná: tyto autonomní zbraňové systémy jsou „politicky nepřijatelné, morálně odporné a měly by být zakázány“.
Chybí však výše zmíněný konsenzus: Alexander Kmentt, vedoucí oddělení kontroly zbrojení na rakouském ministerstvu zahraničí, vysvětlil: „Naléhá čas, abychom učinili přítrž nočním můrám, před kterými varují někteří z nejprestižnějších odborníků,“ řekl. Některá velká jména technologického světa, jako jsou Elon Musk a Demis Hassabis, před tímto problémem varovala již v roce 2018 a vyzvala OSN k zákazu autonomních zbraní.
Podle agentury Reuters se vojenští velitelé regulaci brání, protože by mohla zastřít výhody těchto technologií na bojišti. Poslední zasedání Úmluvy o konvenčních zbraních (CCW) je posledním z řady zasedání, která se konají od roku 2014. Účastníci vidí potřebu „právně závazné smlouvy“ pro země OSN.
Některé země dávají přednost vlastnímu tempu
Podle Amnesty International mnoho zemí takovou obecnou dohodu podporuje, ale USA, Rusko, Čína a Indie dávají přednost vnitrostátním předpisům nebo uplatňování stávajících mezinárodních zákonů. Mluvčí amerického Pentagonu řekl agentuře Reuters, že nejsou přesvědčeni, že stávající zákony jsou nedostatečné, a poznamenal, že autonomní zbraně mohou představovat menší riziko pro civilisty než konvenční zbraně.
A protože neexistuje žádná regulace, dochází k jejich šíření. Absence takových omezení zjevně vede k vývoji autonomních zbraní. Odborníci z Future of Life Institute sledovali nasazení přibližně 200 autonomních zbraňových systémů na Ukrajině, Blízkém východě a v Africe. Ruské síly podle těchto údajů rozmístily na Ukrajině asi 3 000 bezpilotních letounů kamikadze Veter, a jak jsme v Xataku několikrát upozorňovali, tato země má v těchto bezpilotních letounech jeden z rozhodujících prvků pro útoky na ruské cíle.
Dalším z problémů této debaty je, že je velmi obtížné určit, co zakázat a co ne ve světě tak silně komputerizovaném, jako je svět války. Klíčová není ani tak technologická, jako spíše etická otázka, a zde máme co do činění s duální technologií, která může být použita jak pro civilní, tak pro vojenské účely. Nikdo se nevzdá strategického vojenského aktiva kvůli etickému problému. Kromě strašení potřebujeme nástroje k identifikaci, monitorování a kontrole vývoje těchto zbraní, protože ani dobré úmysly, ani sebekontrola v minulosti dobře nefungovaly.
V sázce jsou velké peníze
Jako vždy je však jedním z faktorů v tomto odvětví skutečnost, že v sázce jsou velké peníze, zejména když se znovu spěchá s navyšováním obranných rozpočtů. Laura Nolanová z aktivistické organizace Stop Killer Robots dala jasně najevo, že neexistuje žádná záruka, že technologické společnosti budou při vývoji těchto systémů odpovědné:
„Obecně nevěříme, že se průmyslová odvětví samoregulují. Neexistuje žádný důvod, proč by se průmyslová odvětví měla regulovat sama. Neexistuje důvod, proč by obranné nebo technologické společnosti měly být důvěryhodnější“.
Závěrem lze říci, že potřeba mezinárodní smlouvy, která by regulovala používání autonomních zbraní, je stále naléhavější. Dosažení celosvětového konsensu je však vzhledem k politickým, etickým a ekonomickým složitostem monumentální výzvou. Mezitím pokračuje vývoj a šíření těchto technologií, což může mít nepředvídatelné důsledky pro globální bezpečnost a lidská práva.