Sutskever byl jedním z nejdůležitějších lidí uvnitř OpenAI.
OpenAI byla po většinu času organizačním zmatkem nejvyššího řádu. Uvnitř společnosti neustále docházelo k neshodám ohledně toho, jakým směrem by se měla společnost ubírat, což vedlo k četným rezignacím. Ve skutečnosti došlo ke spiknutí s cílem sesadit Sama Altmana. Jedním z organizátorů tohoto spiknutí a jediným, kdo okamžitě nerezignoval, byl Ilja Sutskever, který nakonec společnost opustil v květnu loňského roku poté, co OpenAI zrušil bezpečnostní radu společnosti.
Sutskever to vnímal jako velmi negativní pro rozvoj umělé inteligence (AI) a proto se nakonec rozhodl založit vlastní bezpečnostní společnost, která by se starala o integritu uživatelů internetu a předcházela problémům, které může AI způsobit po jejím zneužití v nesprávných rukou.
Sám Yoshua Bengio, otec umělé inteligence, varoval, že umělá inteligence v nesprávných rukou je nebezpečná a proto je vidět, že mnoho tvůrců umělé inteligence se těmito problémy zabývá, i když se nezdá, že by v rámci OpenAI měli dominantní hlas.
Související článek
Stojí tedy za to navázat na jeden z výroků Sutskevera z roku 2023, kdy byl ještě součástí OpenAI a chtěl varovat před zlem a nebezpečím AI. Nicméně i nadále tvrdil, že „AI je dobrá, protože bude schopna vyřešit všechny problémy, které dnes máme“. Ale ne všechno je dobré a Sutskever, který se věnoval etice vývoje AI, to ví lépe než kdokoli jiný.
Umělá inteligence by se k nám mohla chovat jako ke zvířatům
Pro inženýra budeme pro AGI jen o málo víc než zvířata. Vnímavé bytosti schopné vytvářet náklonnost, ale na jejichž hlase a hlasování nakonec nebude záležet, až přijde čas učinit konkrétní rozhodnutí:
„Myslím, že dobrou analogií by mohl být způsob, jakým lidé zacházejí se zvířaty. Není to tak, že bychom zvířata nenáviděli, myslím, že lidé mají zvířata rádi a chovají k nim velkou náklonnost. Ale když jde o to, abychom propojili dálnici mezi dvěma městy, neptáme se jich na souhlas. Prostě to uděláme, protože je to pro nás důležité. Vztah mezi námi a IGA bude podobný. Budou se k nám chovat jako ke zvířatům, ne ze zlé vůle, ale z utilitární lhostejnosti.“ – Ilja Sutskever.
Ať tak či onak, k dosažení IGA vede ještě dlouhá cesta, která jednou přijde. Způsob, jakým si odborníci na umělou inteligenci tento scénář představují, však není nijak zvlášť růžový.
Je docela zajímavé podívat se na tuto pozici, kdy lidé již nejsou nejinteligentnějšími bytostmi na planetě, protože to mění způsob pozorování empatie. Když nejste středobodem všeho dění, situace se výrazně mění a pocity druhých se stávají mnohem důležitějšími než dříve.
V minidokumentu pro deník The Guardian se Sustskever vyjádřil o stavu umělé inteligence v těchto letech poměrně optimisticky. Když však došlo na obecnou umělou inteligenci (General Artificial Intelligence, AGI), situace se obrátila k horšímu.