Tímto chtěl odborník varovat před bezpečností umělé inteligence v budoucnosti.
Max Tegmark, fyzik z prestižního Massachusettského technologického institutu (MIT) a prezident Future of Life Institute, je jedním z nejvlivnějších hlasů v debatě o budoucnosti technologií a jejich etických důsledcích.
Tento ve Švédsku narozený vědec, ačkoli má za sebou poměrně prestižní kariéru ve Spojených státech, je známý svými významnými příspěvky v oblasti teoretické fyziky a svým aktivismem v otázkách technologické bezpečnosti, poukazuje na potenciální nebezpečí, které představuje zrychlený rozvoj umělé inteligence, zejména když se zdá, že její vývoj je o několik kroků napřed před naší schopností zavést účinné regulace.
Závod s časem, který možná prohráváme
V polovině února se v Paříži konal významný summit o umělé inteligenci, o němž informoval deník El Mundo a na němž se Tegmark podělil o své obavy ze směru, kterým se vývoj umělé inteligence ubírá:
„Mnoho lidí si ještě před šesti lety myslelo, že zvládnout jazyk, jak to umí ChatGPT-4, je science fiction. Nyní je problém v tom, že mnoho lidí u moci ještě nepochopilo, že jsme blíže k vytvoření obecné umělé inteligence než k tomu, abychom ji uměli ovládat.“ – Max Tegmark
Pro švédsko-amerického fyzika by byl jedním z nejznepokojivějších scénářů ten, kdy „tyto americké nebo čínské společnosti ztratí kontrolu a Zemi ovládnou stroje“, což je možnost, která zní jako sci-fi, ale kterou stále více vědců považuje za pravděpodobnou, dokonce i sám Bill Gates věří, že by mohli ztratit kontrolu. Zvláště znepokojivá je podle Tegmarka možnost, že „budeme mít zbraňové systémy, kde to bude umělá inteligence, kdo bude řídit a rozhodovat, na koho a kdy zaútočit“, což je vojenská aplikace, která by se mohla vymknout lidské kontrole.
Tegmark proto pracuje na nástroji GRASP, který má identifikovat nástroje a technologie, jež by mohly představovat riziko pro naši planetu, než bude pozdě. Zatím identifikoval asi tucet takových, které přinášejí poměrně negativní výsledky a mohly by tak či onak ohrozit bezpečnost.
Toto prohlášení odráží rostoucí obavy vědecké komunity, zejména s ohledem na to, že obecná umělá inteligence, tedy taková, která by se mohla vyrovnat nebo překonat lidské schopnosti v téměř jakémkoli intelektuálním úkolu, již není považována za vzdálenou možnost, ale za něco, co je za rohem a o čem mnozí věří, že přijde velmi brzy, jako v případě Sama Altmana, zatímco jiní se domnívají, že nikdy nepřijde a že nemá smysl. Ve skutečnosti lídři v oboru, jako je Sam Altman z OpenAI a Dario Amodei z Anthropicu, naznačují, že bychom k němu mohli dospět již v roce 2026 nebo 2027. Scénář nastolený Tegmarkem je obzvláště nepříjemný, protože nás vybízí k tomu, abychom si položili otázku, jaké limity musíme nastavit, abychom umělou inteligenci zastavili, než bude pozdě.