Jednou z velkých obav z rozvoje umělé inteligence je, že začne myslet sama za sebe a stane se hrozbou pro lidstvo. Není to tak přitažené za vlasy, jak by se mohlo zdát, protože před rokem Eliezer Yudkowsky, přední odborník na umělou inteligenci a zakladatel Institutu pro výzkum strojové inteligence v Kalifornii, tvrdil, že umělá inteligence by mohla v krátké době vyhladit člověka.
Dalším dobrým důkazem je, že v říjnu 2023 Geoffrey Hinton, takzvaný „kmotr umělé inteligence“, důrazně prohlásil, že kvůli umělé inteligenci velmi brzy „poprvé nebudeme nejinteligentnějším druhem“.
V době, kdy společnost DeepSeek vede revoluci v oblasti umělé inteligence, považujeme za zajímavé připomenout některá prohlášení Geoffreyho Hintona, nositele Nobelovy ceny za fyziku v roce 2024, pronesená během jeho vystoupení v pořadu „60 Minutes“ na americké stanici CBS v říjnu 2023.
Když byl Hinton v tomto rozhovoru dotázán, zda lidstvo ví, co dělá s umělou inteligencí, bez obalu prohlásil:
„Myslím, že vstupujeme do období, kdy poprvé v historii můžeme mít věci, které jsou chytřejší než my.“
Hinton také vysvětlil, že systémy umělé inteligence mohou mít vlastní zkušenosti a na jejich základě se rozhodovat, stejně jako to dělají lidé, ale že v současné době „nemají příliš velké sebeuvědomění“.
To ale není vše: na otázku o rizicích AI Hinton odpověděl, že se docela obává toho, že systémy AI budou psát a vykonávat svůj vlastní kód, protože pokud se stanou nekontrolovatelnými a budou představovat nebezpečí pro lidstvo, pravděpodobně je nebudeme moci vypnout, protože „budou umět manipulovat s lidmi. Budou se učit ze všech Machiavelliho románů, z politiky a manipulace s lidmi“.
Hinton však upřesnil, že umělé inteligence si budou vědomy samy sebe a že v té chvíli budou lidé po systémech umělé inteligence druhými nejinteligentnějšími lidmi na planetě.