Konec éry OpenAI pod Altmanem: Kmotr AI kritizuje komerční směr společnosti

Konec éry OpenAI pod Altmanem: Kmotr AI kritizuje komerční směr společnosti

Zdroj obrázku: Svet foto / Shutterstock

Geoffrey Hinton se radoval z přechodu OpenAI na neziskový status.


Dne 17. listopadu 2023 zažila společnost OpenAI jeden z nejkrušnějších okamžiků ve své historii, když oznámila odvolání svého generálního ředitele Sama Altmana. Rozhodnutí, které se zdálo nemyslitelné a které postavilo do latě samotnou společnost: stovky zaměstnanců pohrozily výpovědí, pokud se Altman nevrátí. Tato událost vyvolala nejen interní zemětřesení, ale přitáhla také pozornost světové technologické komunity a poukázala na základní napětí v odvětví umělé inteligence.

Ne všichni ve světě umělé inteligence však jeho odchod oplakávali. Jedním z těch, kteří toto rozhodnutí veřejně oslavovali, byl Geoffrey Hinton, nositel Nobelovy ceny za fyziku a jeden z průkopníků vývoje hlubokého učení a také „kmotr“ umělé inteligence. Hinton je známý svou zásadní prací o neuronových sítích, která položila základy mnoha dnešních pokroků v oblasti umělé inteligence.

Související článek

Střet NVIDIA a Anthropic: Dva lídři, dva pohledy na AI
Střet NVIDIA a Anthropic: Dva lídři, dva pohledy na AI

V projevu na konferenci VivaTech 2025, která se konala minulý měsíc v Paříži, Huang uvedl, že „téměř se vším, co říká“ generální ředitel společnosti Anthropic Dario Amodei, do značné míry nesouhlasí.

Ve stručném prohlášení představenstvo společnosti OpenAI odůvodnilo propuštění tím, že Altman „nebyl ve své komunikaci s vedením pravdivý“. Brzy se však začalo projevovat vnitřní napětí. Například spuštění služby ChatGPT – nejvíce medializovaného milníku společnosti – údajně překvapilo i některé členy představenstva, kteří se o produktu dozvěděli prostřednictvím Twitteru. Taková jednostranná rozhodnutí odrážejí nedostatek soudržnosti ve strategii společnosti a byla kritizována odborníky na řízení.

Navzdory mediálnímu tlaku a hrozbě interního rozpuštění představenstvo nakonec ustoupilo a požádalo Altmana, aby se vrátil do své funkce. Společnost Microsoft, která již byla hlavním partnerem OpenAI, byla ochotna hostit jej a jeho tým ve svých vlastních kancelářích, což ještě zvýšilo napětí. Microsoft investoval do OpenAI miliardy a jeho zájem udržet Altmana odráží strategický význam umělé inteligence pro jeho budoucnost. Nakonec se však vše uzavřelo: Altman se vrátil na pozici generálního ředitele. Reakce Geoffreyho Hintona byla velmi odlišná od většiny ostatních. Ve stručném, ale důrazném prohlášení řekl:

„Jsem obzvláště hrdý na to, že jeden z mých studentů vyhodil Sama Altmana. A myslím, že bude nejlepší to tak nechat,“ řekl Geoffrey Hinton.

Hinton měl na mysli Ilju Sutskevera, spoluzakladatele společnosti OpenAI, tehdejšího člena jejího představenstva a jednoho ze strůjců vyhazovu. Sutskever byl Hintonovým studentem na Torontské univerzitě, kde oba spolupracovali na vývoji AlexNetu, modelu počítačového vidění, který v roce 2012 způsobil revoluci v oblasti rozpoznávání obrazu. V důsledku skandálu Sutskever také opustil OpenAI a založil novou společnost Safe Superintelligence Inc (SSI). Tato nová iniciativa se snaží řešit obavy o bezpečnost umělé inteligence, což je problém, který v posledních letech nabývá na významu.

Proč Hinton Altmanův odchod uvítal? Hlavní důvod spočívá ve směru, kterým se OpenAI pod jeho vedením vydala. Hinton, který v roce 2023 odešel ze společnosti Google, aby mohl svobodně hovořit o rizicích umělé inteligence, byl velmi kritický ke komerčnímu a rychlému obratu mnoha společností v tomto odvětví, a zejména k posunu OpenAI od neziskové organizace ke komerčně zaměřené společnosti. Tuto změnu důrazně zpochybnil i Elon Musk. Přestože toto rozhodnutí nakonec zvrátili, debata o účelu a etice vývoje umělé inteligence zůstává stále žhavým tématem.

Podle Hintona takový přístup ohrožoval odpovědný vývoj umělé inteligence. Obával se, že tlak na zpeněžení modelů, jako je GPT-4 a jeho následovníci, povede k upřednostňování příjmů a spokojenosti akcionářů před bezpečností, transparentností a etickými hranicemi. Jinými slovy, existovala obava, že umělá inteligence bude postupovat rychleji, než jsme schopni pochopit nebo kontrolovat. Tuto obavu sdílí i mnozí členové vědecké komunity, kteří prosazují opatrnější a regulovanější přístup.

Tato epizoda vrátila debatu o bezpečnosti modelů umělé inteligence zpět do centra pozornosti. Hinton, stejně jako další vědci v této oblasti, varuje, že pokud nebude zachována opatrnost, důsledky by mohly být z dlouhodobého hlediska nepředvídatelné. Etické a sociální důsledky umělé inteligence jsou rozsáhlé a odborníci vyzývají společnosti, aby tyto faktory při svém vývoji zvážily.

Altmanův případ nejenže vyvolal vnitřní krizi ve společnosti OpenAI, ale také odhalil ideologické napětí, které v tomto odvětví panuje: mezi komerčními ambicemi, rychlými inovacemi a stále naléhavější potřebou vyvíjet umělou inteligenci bezpečným a etickým způsobem. Tato rovnováha je klíčová pro zajištění toho, aby technologie přinášela prospěch celé společnosti, a ne jen několika málo lidem.

#