Geoffrey Hinton se radoval z přechodu OpenAI na neziskový status.
Dne 17. listopadu 2023 zažila společnost OpenAI jeden z nejkrušnějších okamžiků ve své historii, když oznámila odvolání svého generálního ředitele Sama Altmana. Rozhodnutí, které se zdálo nemyslitelné a které postavilo do latě samotnou společnost: stovky zaměstnanců pohrozily výpovědí, pokud se Altman nevrátí. Tato událost vyvolala nejen interní zemětřesení, ale přitáhla také pozornost světové technologické komunity a poukázala na základní napětí v odvětví umělé inteligence.
Ne všichni ve světě umělé inteligence však jeho odchod oplakávali. Jedním z těch, kteří toto rozhodnutí veřejně oslavovali, byl Geoffrey Hinton, nositel Nobelovy ceny za fyziku a jeden z průkopníků vývoje hlubokého učení a také „kmotr“ umělé inteligence. Hinton je známý svou zásadní prací o neuronových sítích, která položila základy mnoha dnešních pokroků v oblasti umělé inteligence.
Ve stručném prohlášení představenstvo společnosti OpenAI odůvodnilo propuštění tím, že Altman „nebyl ve své komunikaci s vedením pravdivý“. Brzy se však začalo projevovat vnitřní napětí. Například spuštění služby ChatGPT – nejvíce medializovaného milníku společnosti – údajně překvapilo i některé členy představenstva, kteří se o produktu dozvěděli prostřednictvím Twitteru. Taková jednostranná rozhodnutí odrážejí nedostatek soudržnosti ve strategii společnosti a byla kritizována odborníky na řízení.
Navzdory mediálnímu tlaku a hrozbě interního rozpuštění představenstvo nakonec ustoupilo a požádalo Altmana, aby se vrátil do své funkce. Společnost Microsoft, která již byla hlavním partnerem OpenAI, byla ochotna hostit jej a jeho tým ve svých vlastních kancelářích, což ještě zvýšilo napětí. Microsoft investoval do OpenAI miliardy a jeho zájem udržet Altmana odráží strategický význam umělé inteligence pro jeho budoucnost. Nakonec se však vše uzavřelo: Altman se vrátil na pozici generálního ředitele. Reakce Geoffreyho Hintona byla velmi odlišná od většiny ostatních. Ve stručném, ale důrazném prohlášení řekl:
„Jsem obzvláště hrdý na to, že jeden z mých studentů vyhodil Sama Altmana. A myslím, že bude nejlepší to tak nechat,“ řekl Geoffrey Hinton.
Hinton měl na mysli Ilju Sutskevera, spoluzakladatele společnosti OpenAI, tehdejšího člena jejího představenstva a jednoho ze strůjců vyhazovu. Sutskever byl Hintonovým studentem na Torontské univerzitě, kde oba spolupracovali na vývoji AlexNetu, modelu počítačového vidění, který v roce 2012 způsobil revoluci v oblasti rozpoznávání obrazu. V důsledku skandálu Sutskever také opustil OpenAI a založil novou společnost Safe Superintelligence Inc (SSI). Tato nová iniciativa se snaží řešit obavy o bezpečnost umělé inteligence, což je problém, který v posledních letech nabývá na významu.
Proč Hinton Altmanův odchod uvítal? Hlavní důvod spočívá ve směru, kterým se OpenAI pod jeho vedením vydala. Hinton, který v roce 2023 odešel ze společnosti Google, aby mohl svobodně hovořit o rizicích umělé inteligence, byl velmi kritický ke komerčnímu a rychlému obratu mnoha společností v tomto odvětví, a zejména k posunu OpenAI od neziskové organizace ke komerčně zaměřené společnosti. Tuto změnu důrazně zpochybnil i Elon Musk. Přestože toto rozhodnutí nakonec zvrátili, debata o účelu a etice vývoje umělé inteligence zůstává stále žhavým tématem.
Podle Hintona takový přístup ohrožoval odpovědný vývoj umělé inteligence. Obával se, že tlak na zpeněžení modelů, jako je GPT-4 a jeho následovníci, povede k upřednostňování příjmů a spokojenosti akcionářů před bezpečností, transparentností a etickými hranicemi. Jinými slovy, existovala obava, že umělá inteligence bude postupovat rychleji, než jsme schopni pochopit nebo kontrolovat. Tuto obavu sdílí i mnozí členové vědecké komunity, kteří prosazují opatrnější a regulovanější přístup.
Tato epizoda vrátila debatu o bezpečnosti modelů umělé inteligence zpět do centra pozornosti. Hinton, stejně jako další vědci v této oblasti, varuje, že pokud nebude zachována opatrnost, důsledky by mohly být z dlouhodobého hlediska nepředvídatelné. Etické a sociální důsledky umělé inteligence jsou rozsáhlé a odborníci vyzývají společnosti, aby tyto faktory při svém vývoji zvážily.
Altmanův případ nejenže vyvolal vnitřní krizi ve společnosti OpenAI, ale také odhalil ideologické napětí, které v tomto odvětví panuje: mezi komerčními ambicemi, rychlými inovacemi a stále naléhavější potřebou vyvíjet umělou inteligenci bezpečným a etickým způsobem. Tato rovnováha je klíčová pro zajištění toho, aby technologie přinášela prospěch celé společnosti, a ne jen několika málo lidem.