Generální ředitel OpenAI varuje před koncem hlasového ověřování v bankách kvůli schopnosti umělé inteligence během několika sekund naklonovat lidský hlas.
Hlasové ověřování, kdysi považované za pokročilé bezpečnostní opatření, je nyní zastaralé. Sam Altman, generální ředitel společnosti OpenAI, vydal varování před „blížící se katastrofou“ ve finančním sektoru, která souvisí se znepokojivým vývojem: nástroje umělé inteligence (AI) nyní dokážou replikovat lidské hlasy tak přesně, že tradiční metody ověřování již nejsou účinné.
Ve svém projevu na konferenci americké centrální banky Altman označil za „absurdní“, aby finanční instituce nadále používaly hlasové otisky k autorizaci plateb. Jeho argument je jasný: poslouchat člověka, jak opakuje frázi pro přístup ke svému účtu, již nemá smysl, když umělá inteligence dokáže stejný zvuk vygenerovat během několika sekund.
Hlas jako brána k podvodům
FBI již zdokumentovala případy, kdy zločinci využívají syntetické hlasy k podvodům na obětech a simulují naléhavé rodinné situace nebo smyšlené krize, aby získali převody peněz. Jedním z extrémních případů byl pokus vydávat se za hlas senátora Marca Rubia, aby kontaktoval oficiální představitele. Hrozba je reálná a roste.
Související článek
Sam Altman calls it “insane” that banks still use voice prints for authentication.
— Aimojo (@aimojopro) July 23, 2025
AI has already shattered many identity systems, and we’re heading straight into a synthetic fraud crisis.
“Today it’s voice. Soon, it’ll be video—indistinguishable from reality.”#SamAltman… pic.twitter.com/vGwK5kyQhP
Altman se vyjádřil nekompromisně: současné hlasové modely a dokonce i některé biometrické metody byly „zcela překonány“ pokrokem v oblasti umělé inteligence. Společnost OpenAI již v minulosti projevila obavy z těchto problémů a z podobných důvodů odložila spuštění dalších modelů.
Michelle Bowmanová, viceprezidentka americké centrální banky, se zdá být ochotná s OpenAI spolupracovat. Uvedla, že „by to mohla být oblast, kde by se dalo uvažovat o spolupráci“ při vývoji bezpečnějších autentizačních systémů. Taková spolupráce má zásadní význam pro řešení bezpečnostních výzev, které AI představuje.
OpenAI již pracuje na projektech, jako je The Orb, iniciativa Tools for Humanity, která se snaží vytvořit „důkaz lidskosti“ v digitálním prostředí. Jde o to, aby bylo možné rozlišovat mezi skutečnými a falešnými interakcemi. Bílý dům mezitím připravuje akční plán pro umělou inteligenci, který má tento vývoj regulovat a zmírnit související rizika.
Umělá inteligence mění celý svět
Altman se zabýval také geopolitickými riziky: systémy superinteligence, které by mohly zpochybnit technologickou suverenitu USA, zejména pokud Čína dosáhne těchto pokročilých schopností jako první. Zmínil možnost strojově prováděných kybernetických útoků, které by mohly zahrnovat cokoli od sabotáže infrastruktury až po použití biologických zbraní.
Zajímavé je, že Altman se nedomnívá, že umělá inteligence masivně zničí pracovní místa. Naopak tvrdí, že bude vytvářet kvalitnější pracovní místa. Uznává však, že „žádná předpověď budoucnosti práce není přesná“ a že změny pracovních míst budou s vývojem technologií nevyhnutelné.
Společnost OpenAI nedávno otevřela ve Washingtonu DC kanceláře s týmy, které se věnují ekonomickým analýzám a školením pro státní správu. Společnost lobbuje u Trumpovy administrativy, aby se vyhnula regulacím, které by mohly snížit její konkurenceschopnost vůči Číně, i když Altman již přiznal, že s předchozím strašením riziky AI zašel příliš daleko.
Altmanovo řešení je jasné: jednosměrné metody, jako je snímání otisků hlasu, je třeba nahradit vrstvenými bezpečnostními systémy a investicemi do nástrojů proti podvodům založených na AI. Podle Altmana je nyní nejlepší doba v historii pro zakládání technologických startupů, protože AI je levná.
Nakonec všichni čelíme společné výzvě: nástroje AI jsou stále výkonnější, ale jsou s nimi spojena rizika, která nás nutí změnit způsob ochrany online. Přechod na nové metody ověřování je nevyhnutelný a to, jak rychle budeme jednat, rozhodne o tom, kolik lidí bude podvedeno.