Geoffrey Hinton, Steve Wozniak a stovky dalších osobností vyzývají k pozastavení vývoje umělé superinteligence, dokud nebude možné zaručit její bezpečnost. Podle nich hrozí nejen ztráta pracovních míst a svobod, ale i existenční rizika pro lidstvo.
Je to už více než dva roky, co Elon Musk, Steve Wozniak a další technologičtí velikáni vyzvali k zamyšlení nad budoucností umělé inteligence. Od té doby průmysl nadále sází na vývoj oblasti, která se stala páteří americké ekonomiky. Přesto potenciální nebezpečí spojená s umělou inteligencí opět přiměla více než 800 osobností veřejného života k tomu, aby vyzvaly k dalšímu zamyšlení nad důsledky vývoje modelu, který je chytřejší než člověk, aniž by měl zajištěnou potřebnou bezpečnost.
Nebezpečí umělé superinteligence
V tomto novém otevřeném dopise se vedle osobností, jako jsou Yoshua Bengio a Steve Wozniak, objevuje i Geoffrey Hinton, známý jako jeden z kmotrů umělé inteligence. V dokumentu, který propaguje Future of Life Institute, jeho účastníci varují před riziky spojenými s vytvářením systémů, které jsou inteligentnější než člověk, neboť je pravděpodobné, že nebudou mít potřebnou podporu ani ve vědecké, ani ve společenské sféře. Mezi signatáři jsou proto nejen technologičtí géniové, ale také princ Harry a Meghan Markle.
Dopis proto vyzývá k dočasnému zákazu vytváření superinteligence, dokud nebude možné zajistit, že bude vyvíjena bezpečným, kontrolovaným způsobem a s většinovou podporou veřejnosti. Mezi rizika patří nejen ztráta pracovních míst pro lidi, ale také ohrožení občanských svobod, ztráta kontroly, národní zranitelnost a v nejzávažnějších scénářích dokonce vyhynutí lidského druhu.
Potřeba mezinárodní regulace
Debata o regulaci umělé inteligence není nová. Již od vzniku prvních učících se strojů odborníci diskutují o tom, jak zajistit, aby tyto technologie byly používány eticky a bezpečně. Například Evropská unie pracuje na regulačním rámci pro umělou inteligenci, jehož cílem je chránit základní práva občanů a podporovat odpovědné inovace. Evropský přístup se zaměřuje na transparentnost, bezpečnost a odpovědnost.
V USA současná administrativa uznala, že je důležité stanovit jasné pokyny pro vývoj a používání AI. Úřad Bílého domu pro vědeckou a technologickou politiku navrhl „projekt Listiny práv umělé inteligence“, jehož cílem je zajistit, aby systémy umělé inteligence byly bezpečné a respektovaly soukromí uživatelů.
Hospodářský a sociální dopad AI
Umělá inteligence má potenciál zásadně proměnit globální ekonomiku. Podle zprávy společnosti PwC se očekává, že AI do roku 2030 přispěje globální ekonomice až 15,7 bilionu dolarů. Tento růst však s sebou přináší i významné výzvy, jako je přerozdělení pracovních míst a potřeba nových pracovních dovedností.
Světové ekonomické fórum zdůraznilo, že umělá inteligence by sice mohla vytvořit miliony nových pracovních míst, ale zároveň by mohla vytlačit značný počet pracovníků. To podtrhuje význam investic do vzdělávání a odborné přípravy s cílem připravit pracovní sílu na pracovní místa budoucnosti.
Není to poprvé, co FLI zaujala stanovisko v takto citlivé oblasti, neboť v minulosti odsoudila organizaci OpenAI za údajné vydávání soudních obsílek proti této organizaci jako odvetu za její výzvy k většímu dohledu nad AI. V zemích, jako jsou USA, se totiž tato problematika stala jedním z nejdůležitějších společenských témat současnosti, neboť 75 % obyvatelstva požaduje přísnou regulaci modelů umělé inteligence.
Navzdory zájmu FLI Sam Altman (generální ředitel společnosti OpenAI) před několika dny uvedl, že je přesvědčen, že k nástupu umělé superinteligence dojde před rokem 2030. Předpověděl také, že umělá inteligence nahradí až 40 % současných ekonomických úkolů. I přes varování a další podněty k zamyšlení mají tedy společnosti jako Meta a samotná OpenAI jasno: závodu směrem k umělé superinteligenci nic nebrání.