Jsme blíže k vytvoření obecné AI, než abychom věděli, jak ji ovládat, tvrdí expert

Jsme blíže k vytvoření obecné AI, než abychom věděli, jak ji ovládat, tvrdí expert

Tímto chtěl odborník varovat před bezpečností umělé inteligence v budoucnosti.


Max Tegmark, fyzik z prestižního Massachusettského technologického institutu (MIT) a prezident Future of Life Institute, je jedním z nejvlivnějších hlasů v debatě o budoucnosti technologií a jejich etických důsledcích.

Tento ve Švédsku narozený vědec, ačkoli má za sebou poměrně prestižní kariéru ve Spojených státech, je známý svými významnými příspěvky v oblasti teoretické fyziky a svým aktivismem v otázkách technologické bezpečnosti, poukazuje na potenciální nebezpečí, které představuje zrychlený rozvoj umělé inteligence, zejména když se zdá, že její vývoj je o několik kroků napřed před naší schopností zavést účinné regulace.

Závod s časem, který možná prohráváme

V polovině února se v Paříži konal významný summit o umělé inteligenci, o němž informoval deník El Mundo a na němž se Tegmark podělil o své obavy ze směru, kterým se vývoj umělé inteligence ubírá:

Související článek

Umělou inteligenci možná neovlivníme, tvrdí technologický historik a vizionář
Umělou inteligenci možná neovlivníme, tvrdí technologický historik a vizionář

Autor knihy Sapiens je ohledně schopností umělé inteligence páchat zlo spíše pesimistický.

„Mnoho lidí si ještě před šesti lety myslelo, že zvládnout jazyk, jak to umí ChatGPT-4, je science fiction. Nyní je problém v tom, že mnoho lidí u moci ještě nepochopilo, že jsme blíže k vytvoření obecné umělé inteligence než k tomu, abychom ji uměli ovládat.“ – Max Tegmark

Pro švédsko-amerického fyzika by byl jedním z nejznepokojivějších scénářů ten, kdy „tyto americké nebo čínské společnosti ztratí kontrolu a Zemi ovládnou stroje“, což je možnost, která zní jako sci-fi, ale kterou stále více vědců považuje za pravděpodobnou, dokonce i sám Bill Gates věří, že by mohli ztratit kontrolu. Zvláště znepokojivá je podle Tegmarka možnost, že „budeme mít zbraňové systémy, kde to bude umělá inteligence, kdo bude řídit a rozhodovat, na koho a kdy zaútočit“, což je vojenská aplikace, která by se mohla vymknout lidské kontrole.

Tegmark proto pracuje na nástroji GRASP, který má identifikovat nástroje a technologie, jež by mohly představovat riziko pro naši planetu, než bude pozdě. Zatím identifikoval asi tucet takových, které přinášejí poměrně negativní výsledky a mohly by tak či onak ohrozit bezpečnost.

Toto prohlášení odráží rostoucí obavy vědecké komunity, zejména s ohledem na to, že obecná umělá inteligence, tedy taková, která by se mohla vyrovnat nebo překonat lidské schopnosti v téměř jakémkoli intelektuálním úkolu, již není považována za vzdálenou možnost, ale za něco, co je za rohem a o čem mnozí věří, že přijde velmi brzy, jako v případě Sama Altmana, zatímco jiní se domnívají, že nikdy nepřijde a že nemá smysl. Ve skutečnosti lídři v oboru, jako je Sam Altman z OpenAI a Dario Amodei z Anthropicu, naznačují, že bychom k němu mohli dospět již v roce 2026 nebo 2027. Scénář nastolený Tegmarkem je obzvláště nepříjemný, protože nás vybízí k tomu, abychom si položili otázku, jaké limity musíme nastavit, abychom umělou inteligenci zastavili, než bude pozdě.

Zdroje článku:
m.economictimes.com

#