Odborníci na umělou inteligenci varují, že současná podoba vývoje není pro lidstvo dobrá. Umělá inteligence má široce používané nástroje a neustále nás překvapuje novými technologiemi. V době, kdy umělá inteligence postupuje závratnou rychlostí a slibuje proměnu všech oblastí života, rostou i další obavy. Například z toho, zda nezničí pracovní místa, nebo z toho, že umělá inteligence je v rukou několika málo milionářů.
Několik předních hlasů ze světa AI varuje, že současný vývoj je v rukou hrstky velkých korporací a miliardářů, kteří prosazují technokratickou, hierarchickou a nepříliš inkluzivní vizi. Tito odborníci mají daleko k pokroku pro společné dobro a odsuzují bezprecedentní koncentraci moci, která by mohla představovat velké riziko.
Potřeba vymanit se z nadvlády AI
Audrey Tangová je hackerka a již deset let je tchajwanskou ministryní pro digitální záležitosti. Jejím cílem je udělat z internetu bezpečnější místo, kde služby, které nabízí, slouží občanům, a ne naopak. Jednou z jejích hlavních kritik vývoje umělé inteligence, které jsme svědky, je, že jsme svědky vývoje jedné nebo několika „superinteligentních umělých vertikál“.
Jeho myšlenka spočívá v tom, že by měly existovat decentralizované, transparentní a participativní bezpečnostní infrastruktury, které by lidem poskytovaly horizontální kolektivní inteligenci, asistenční systémy, jež by posilovaly lidskou aktivitu. Tang prosazuje iniciativy, jako je využívání open source platforem pro veřejnou správu, které umožňují větší transparentnost a zapojení občanů. Je také zastáncem zavádění technologií, které respektují soukromí a autonomii uživatelů a vyhýbají se masovému dohledu a centralizované kontrole.
Zisk získává přednost před bezpečností
Geoffrey Hinton, nositel Nobelovy ceny za rok 2024 a jeden ze zakladatelů hlubokého učení, které je základem dnešní umělé inteligence, patří již několik desetiletí k nejvlivnějším hlasům v této oblasti technologií. Od svého odchodu ze společnosti Google v roce 2023 však převzal novou roli: roli kritického mluvčího existenčních rizik, která AI představuje.
V nedávné přednášce dal Hinton jasně najevo svou skepsi vůči některým technikám, které se nejčastěji používají k „sladění“ systémů AI s lidskými hodnotami. Ústředním bodem jeho kritiky je technika známá jako RLHF. RLHF (Reinforcement Learning from Human Feedback) je technika, při níž je jazykový model (např. GPT-4o) trénován nejen na surových textových datech, ale také prostřednictvím lidského zásahu.
Hinton je jedním z průkopníků hlubokého učení a od prosazování umělé inteligence přešel k varování před jejími nebezpečími. Kritizuje skutečnost, že vývoj je v rukou velkých korporací (např. některých velkých technologických firem), které upřednostňují obchodní soutěž před bezpečností. Varuje také, že „závod o AI“ může zanedbat existenční rizika, jako je masová nezaměstnanost a koncentrace bohatství: „Musk bude bohatnout a mnoho lidí se stane nezaměstnanými.“
Problém s inteligencí umělé inteligence
Yann LeCun (považovaný spolu s Hintonem za jednoho z „kmotrů AI“ a držitele Turingovy ceny) potvrdil to, co mnozí tušili od doby, kdy Meta přijala éru superinteligence: odchází ze společnosti. Oznámil to před několika dny.
Odchod přichází na pozadí filozofického napětí. LeCun už léta varuje, že dnešní generativní umělá inteligence je „hloupá jako čert“ a že modely jako GPT-4 nejsou chytřejší než kočka domácí. Zatímco Silicon Valley a samotná Meta investují miliardy do rozšiřování LLM shromažďováním většího množství dat a výpočetního výkonu, LeCun tvrdí, že tato strategie je slepou uličkou.
Podle něj LLM neřeší skutečné problémy, ale pouze předpovídají text na základě pravděpodobnosti, aniž by rozuměly realitě. Tímto přístupem Lecun ztrácí vnitřní vliv ve prospěch takových osobností, jako je Alexandr Wang a další přírůstky do týmu superinteligence. LeCun také navrhl alternativní přístupy, jako je vývoj systémů umělé inteligence, které napodobují lidské schopnosti učení, využívají méně dat, ale efektivněji, a prosazují kontextovou inteligenci, která je méně závislá na velkých objemech informací.
Extrémní koncentrace moci, bohatství a kontroly
Jaime Sevilla je španělský výzkumník a zakladatel organizace Epoch AI, která se zabývá analýzou a předpovídáním vývoje umělé inteligence, který varoval před scénáři, v nichž „99 % zdrojů skončí v rukou umělé inteligence„. Jeho vize poukazuje na možnou extrémní koncentraci moci, bohatství a kontroly v rukou těch, kteří systémy AI ovládají. To by mohlo vést k hlubokému sociálnímu zlomu, kdy bude jen málo zvýhodněných a mnoho vyloučených.
Navíc varuje, že mnoho způsobů využití AI by mohlo být škodlivých: nejen kvůli nezaměstnanosti, ale také kvůli jejímu potenciálu pro škodlivé činnosti (podvody, manipulace atd.). Sevilla rovněž navrhl vytvoření mezinárodních regulačních rámců, které by zaručily etický a spravedlivý rozvoj AI a zajistily spravedlivé rozdělení přínosů této technologie a minimalizaci souvisejících rizik.