Opravdu se ničeho nebojte. Věřte nám. Jde o OpenAI, společnost, v jejímž čele stojí jistý Sam Altman, který si vysloužil pověst člověka, který na jedné straně říká jednu věc a na druhé straně dělá druhou. O této premise jsou napsány celé knihy a nelze si na ni nevzpomenout teď, když tento gigantický startup podepsal znepokojivou smlouvu.
OpenAI uzavřela dohodu s ministerstvem obrany o integraci svých modelů umělé inteligence do vládních agentur, čímž nahradil Anthropic. Učinili tak s tím, že na používání těchto modelů budou klást požadavky a budou mít podobné červené linie, jaké prosazoval Anthropic: žádné masové špehování, žádný vývoj autonomních zbraní. Toto rozhodnutí stálo společnost Anthropic kontrakt s ministerstvem obrany, ale bylo také označeno za „riziko dodavatelského řetězce“.
Jsou zde dva problémy. Za prvé, společnost OpenAI nikdy neukázala smlouvu, ze které jasně vyplývá, že existují červené čáry pro vojenské využití GPT. Za druhé, a to je závažnější, OpenAI tvrdí, že ji nepotřebujeme, protože jim stačí důvěřovat. Sám Altman se snažil rozptýlit pochybnosti vysvětlením, že do smlouvy přidali dodatky, které mají zajistit, aby tyto červené linie nebyly překročeny.
Zeď neprůhlednosti
Navzdory slibům transparentnosti odmítá OpenAI smlouvu zveřejnit. Šéfka oddělení národní bezpečnosti firmy Katrina Mulliganová šla tak daleko, že v X prohlásila, že se necítí „nucena“ sdílet právní znění smlouvy. To vyvolalo podezření, co bylo vlastně v zákulisí podepsáno.
Brad Carson, který za Obamy zastával funkci ministra armády USA, v časopise The Intercept poukázal na to, jak je právní jazyk, který Sam Altman používá ve svých zprávách X, podezřelý. Generální ředitel OpenAI například zmiňuje, že „systém AI nebude záměrně používán k domácímu sledování občanů USA“. Ono „záměrně“ je podle odborníků, jako je Carson, jakýmsi bianko šekem, který umožňuje „náhodné“, ale systematické získávání údajů o občanech USA při špehování cizinců. Jak vysvětluje Carson,
Snaží se vás zmást složitými právními termíny, o nichž si běžní lidé myslí, že znamenají něco úplně jiného. Ale právníci vědí, co to znamená. A právníci vědí, že to není žádná ochrana.
Integrace umělé inteligence OpenAI do systémů ministerstva obrany je nyní pod přímým dohledem ministra obrany Peta Hegsetha a prezidenta Trumpa. To představuje etické dilema: bezpečnost systému závisí na politické vůli osobností, které tradičně nemají problém odstranit omezení pro systémy hromadného sledování.
Obrat je pro OpenAI jasný. Zatímco ve svých počátcích se startup vymezoval poselstvím vytvářet systémy umělé inteligence „ve prospěch lidstva“ a zakazoval vojenské využití svých technologií, tato dohoda ukazuje, že takové předpoklady již zřejmě neexistují.
Další špatné znamení
Přístup OpenAI vedl k otevřené kritice v sítích, ale také k interním problémům. Svědčí o tom skutečnost, že její ředitelka pro robotiku Caitlin Kalinowski se rozhodla odstoupit ze své funkce kvůli obavám z vojenských jednání společnosti.
Spor mezi ministerstvem obrany a Pentagonem se soustředil právě na to, že nechtěli, aby Anthropic stanovil červené linie. Společnost OpenAI tvrdí, že stanovila v podstatě stejné, jak tedy může ministerstvo obrany dovolit společnosti OpenAI, aby je stanovila, když to nedovolila společnosti Anthropic? Zdá se, že to nedává žádný smysl.
Prožíváme telenovelu se třemi hlavními hrdiny. Americké ministerstvo obrany (DoD) – nyní přejmenované na ministerstvo války -, společnost Anthropic a její konkurent, OpenAI. Ministerstvo obrany, které využívalo umělou inteligenci společnosti Anthropic pro vojenské operace, požadovalo, aby ji mohlo používat bez omezení, ale Dario Amodei, generální ředitel tohoto startupu, to rázně odmítl. V tu chvíli se Sam Altman chopil příležitosti a stal se novým spojencem DoD, což mnozí považovali za oportunistické a morálně zavrženíhodné.
Historický kontext
Vztahy mezi technologickými společnostmi a americkým ministerstvem obrany nejsou nové. Od druhé světové války vláda spolupracuje se soukromými společnostmi na vývoji pokročilých technologií. Rostoucí obavy o etiku při využívání umělé inteligence však tyto dohody podrobily zkoumání. Společnosti, jako je Google, čelily interní i externí odezvě kvůli podobným smlouvám, jako byl projekt Maven, což vedlo k rezignaci několika zaměstnanců a nakonec k rozhodnutí Googlu smlouvu neprodloužit.
Nedostatečná transparentnost těchto smluv vyvolává nedůvěru nejen mezi veřejností, ale i mezi zaměstnanci zúčastněných společností. Transparentnost má zásadní význam pro zajištění etického a odpovědného využívání technologií. Organizace na ochranu lidských práv a obhájci soukromí se zasazují o větší jasnost těchto smluv, aby se zajistilo, že nebudou porušována základní práva.
S dalším rozvojem umělé inteligence bude její úloha v armádě i nadále předmětem diskusí. Zastánci tvrdí, že umělá inteligence může zvýšit efektivitu a snížit riziko pro vojáky, zatímco kritici varují před možností zneužití a eskalace konfliktu. Výzvou bude najít rovnováhu mezi technologickým pokrokem a etikou.
Dohoda mezi OpenAI a ministerstvem obrany je odrazem složitosti a etických dilemat, kterým dnes technologické společnosti čelí. Důvěra a transparentnost jsou nezbytné pro zajištění odpovědného využívání technologií ve prospěch lidstva.