Yoshua Bengio je pravděpodobně jedním ze tří kmotrů umělé inteligence (AI). Existují totiž tři lidé, kteří dali vzniknout této technologii mocněji než ostatní za svůj přínos k logice, která ji umožnila.
Odborník Geoffrey Hinton, který varoval před riziky AI, Yann Lecun a sám Bengio. Každý z nich má však na vývoj této technologie zcela jiný názor. Zatímco Hinton a Bengio se na budoucnost AI dívají poměrně pesimisticky, Lecun je jejím hlavním zastáncem.
Uprostřed roku 2023 Lecun hovořil o AI optimisticky a o tom, že není vážné hovořit o „scénářích soudného dne“. Učinil tak v příspěvku na Facebooku, který si lze přečíst veřejně. A jeho kolega Yoshua Bengio v něm ostře vystoupil na obranu svého postoje proti Lecunovu velmi pozitivnímu pohledu na tuto technologii.
Vyhrocený spor dvou géniů umělé inteligence
Podle Lecuna existuje „mlčící většina vědců zabývajících se umělou inteligencí“, kteří nevěří ve „scénáře zániku umělé inteligence“. Zároveň však dodal, že otevřený zdrojový kód a lidská schopnost zvládat tyto problémy jsou více než dostatečné k tomu, aby se dokázaly vypořádat s problémy, které může generovat skutečně pokročilá umělá inteligence. V reakci na to se mu Yoshua Bengio rozhodl na tuto otázku poměrně rázně odpovědět:
„Budoucí systémy umělé inteligence budou nepochybně výkonnější, a proto i nebezpečnější, pokud se dostanou do nesprávných rukou.“ – Yoshua Bengio
Ačkoli jsou oba kolegové a krajané, nezbavilo to Bengia toho, aby se vyjádřil zcela neomaleně, což po letech práce na zrodu umělé inteligence považuje za logické. V první řadě poukázal na to, že neumějí navrhovat výkonné umělé inteligence „bezpečným způsobem“. Vytvoření velmi vyspělého systému je pro něj velmi nebezpečné, neboť se domnívá, že jde o vytvoření entit, které jsou inteligentnější než člověk jako druh, a proto si dříve či později vyvinou „své vlastní zájmy“.
Kromě toho by se podle něj mělo mnohem více investovat do bezpečnosti, než se spoléhat na schopnost rozhodovat. „Je pravda, že máme schopnost rozhodovat, ale právě teď investujeme 50 až 100krát více do schopností umělé inteligence než do bezpečnosti a řízení.“
A konečně jeho poslední bod se týkal obhajoby otevřeného zdrojového kódu jako způsobu řešení, což je podle jeho slov něco, co vždy obhajoval. AI se však může dostat do nesprávných rukou a podle něj by to bylo „jako dát každému nebezpečné zbraně“. To je velmi nebezpečná věc, na kterou by se mělo skutečně dbát, stejně jako na zbraně platí po celém světě přísná legislativa.
V tomto okamžiku Bengio požádal svého kolegu, aby si uvědomil, „co dělá“, protože má pocit, že jeho slova nemohla být v záběru chybnější. Zvláště když Lecun věří, že umělá inteligence nás brzy předčí.