Když se z původně neziskové OpenAI stal miliardový startup, změnil se i tón debaty kolem ní.
Zatímco kritici varují před ztrátou ideálů a bezpečnostními riziky, vedení firmy v čele se Samem Altmanem má jasno – útoky prý nejsou náhodné, ale řízené konkurenčními miliardáři. V sázce je nejen reputace OpenAI, ale i směr, kterým se vydá celá umělá inteligence.
V Silicon Valley pravděpodobně není nouze o paranoiu: mnoho zakladatelů startupů je přesvědčeno, že jim někdo chce ukrást nápady nebo přebrat zaměstnance. Tato mentalita je součástí konkurenčního a rychlého ekosystému, který je pro tento region charakteristický. Až donedávna se však zdálo, že OpenAI stojí na okraji této dynamiky, ale to se postupem času mění. Když náklady na školení stále výkonnějších modelů změnily altruistický diskurz ve finanční problém, OpenAI se pustila do kontroverzního přechodu na ziskový model.
Toto rozhodnutí vyvolalo okamžitý odpor kritiků, od bývalých spojenců, jako je Elon Musk, až po kalifornské zákonodárce a organizace zabývající se bezpečností AI. Překvapivé není to, že se objevili odpůrci takového kroku, ale interpretace, kterou takový odpor zřejmě vyvolal uvnitř společnosti.
Související článek
Ochrana, nebo paranoia?
Přechod OpenAI odráží klasické napětí v Silicon Valley: mezi idealistickou rétorikou „změnit svět“ a požadavky trhu, kde trénink modelů stojí miliardy dolarů. Tváří v tvář tomuto scénáři se společnost rozhodla přijmout agresivní obchodní model s ambicí stát se nejhodnotnějším startupem na planetě.
Vývoj OpenAI z neziskové organizace na ziskovou společnost byl předmětem debat a zkoumání. Tato transformace byla částečně vyvolána potřebou financovat pokročilý výzkum v oblasti umělé inteligence, který vyžaduje značné prostředky. Společnost hledala externí investory, což vedlo ke zpochybňování jejího závazku k jejím základním hodnotám. Podle článku v The Verge přijala organizace hybridní strukturu nazvanou capped-profit, jejímž cílem je přilákat kapitál a zároveň v omezené míře zachovat své původní poslání.
Teoretická rovina
Je kritika pouze oprávněnou obavou o bezpečnost umělé inteligence… nebo je součástí organizované kampaně miliardářských konkurentů? Přesněji řečeno, vše se točí kolem myšlenky, že všichni její odpůrci, Musk, regulátoři, nevládní organizace podporující transparentnost technologií, jsou součástí tajné sítě koordinované a financované konkurenčními miliardáři, jejímž cílem je společnost zničit.
Podle téhož amerického tisku nabyl Altman a část jeho týmu přesvědčení, že za kritikou stojí skryté zájmy lidí, jako je Mark Zuckerberg nebo investoři Dustin Moskovitz a Pierre Omidyar (a samozřejmě i samotný Elon Musk, v jeho případě však zájmy tak skryté nejsou).
Příčina a důsledek
Podobné konspirační teorie nejsou ve světě technologií ničím novým. Tvrdá konkurence a vysoké sázky při vývoji umělé inteligence vytvořily prostředí, kde se podezřením a konspiračním teoriím může dařit. Tato obvinění však mohou odvádět pozornost od skutečných etických a technických výzev, kterým čelí odvětví umělé inteligence, jako je transparentnost, spravedlnost a bezpečnost.
Tento diskurz má reálné důsledky: několik neziskových organizací zabývajících se správou umělé inteligence, jako je například Encode, obdrželo od Altmanovy společnosti právní obsílky s požadavkem na zveřejnění možných vazeb na Muska nebo Zuckerberga. Tyto právní kroky odrážejí rostoucí napětí mezi OpenAI a organizacemi, které se zasazují o větší transparentnost a regulaci vývoje umělé inteligence.
Vývoj OpenAI a reakce, které vyvolala, jsou mikrokosmem širšího napětí v technologickém průmyslu, kde se často střetávají snahy o zisk s ideály sociální a etické odpovědnosti. Výzvou pro OpenAI a další technologické společnosti bude v konečném důsledku nalezení rovnováhy mezi komerčním růstem a závazkem k veřejnému blahu.