Umělá inteligence se stává nástrojem nové generace kyberútoků. Společnost Anthropic varovala, že její AI nástroj Claude byl zneužit čínskými hackery ke špionáži a shromažďování citlivých dat. AI tak přestává být jen obráncem – může být i útočníkem.
Vývoj technologií s sebou přinesl nebývalý soubor výzev v oblasti kybernetické bezpečnosti. Jednou z nejnovějších je využívání nástrojů umělé inteligence (AI), jako Claude, hackery k provádění kybernetické špionáže. Podle společnosti Anthropic bylo zjištěno, že čínští hackeři používali její software ke shromažďování informací o relevantních osobách a společnostech, což poukazuje na dvojí povahu umělé inteligence v oblasti kybernetické bezpečnosti. AI, která může být mocným nástrojem pro ochranu dat, může být také zneužita ke škodlivým účelům.
AI jako zbraň proti kybernetické bezpečnosti
Využití AI při kybernetických útocích probíhá v několika fázích. První fází je fáze zpravodajská, kdy se shromažďují data a informace pro přesné plánování útoků. Ve druhé fázi AI funguje jako autonomní agent, který provádí útoky bez přímého zásahu člověka. Konečně ve třetí fázi se používají pokročilé nástroje k prolomení hesel, získání soukromých nebo důvěrných údajů a zneužití softwaru podobně jako u lidského hackera.
CHINESE HACKERS USED CLAUDE FOR NEARLY-AUTONOMOUS CYBERATTACKS! AI-based espionage campaign by Chinese state-sponsored group. AI handled 80–90% of operations: reconnaissance, vulnerability discovery, exploitation, credential harvesting, lateral movement and data exfiltration. It… pic.twitter.com/eQiTAVhzEL
— Lukasz Olejnik (@lukOlejnik) November 13, 2025
Sofistikovanost těchto útoků zdůrazňuje potřebu, aby se nástroje kybernetické bezpečnosti vyvíjely stejným tempem jako hrozby. Bezpečnostní experti musí vyvíjet řešení, která nejen chrání před současnými útoky, ale také předvídají budoucí taktiky kyberzločinců. Bezpečnostní nástroje založené na umělé inteligenci se neustále zdokonalují, jak upozorňuje Jacqueline Neefová, vedoucí oddělení umělé inteligence v týmu datové vědy společnosti N26. Tyto nástroje se budou i nadále vyvíjet a zdokonalovat, aby dokázaly čelit novým hrozbám.
Zabezpečení se musí nadále zlepšovat
Potenciál využití umělé inteligence v kybernetické kriminalitě představuje pro společnosti poskytující služby v oblasti kybernetické bezpečnosti a vyvíjející software významnou výzvu. Tyto subjekty musí zavést mechanismy, které zabrání zneužití jejich technologií. Hrozba deepfakes byla jen začátkem; nyní čelíme nové vlně kyberkriminality, která může mít dopad na podniky i jednotlivé uživatele.
Skutečnost je taková, že umělá inteligence je sice neutrální nástroj, ale její použití závisí na záměrech těch, kteří ji používají. Společnost Anthropic oficiálně varovala před zneužitím své technologie čínskými hackery, kteří její kód AI využili k efektivnímu provedení kybernetických útoků. Mezi oběti těchto útoků patří technologické společnosti, velké finanční instituce a vládní agentury. Takové aktivity podtrhují význam mezinárodní spolupráce v boji proti kyberkriminalitě a při ochraně kritické infrastruktury na celém světě.
Umělá inteligence je ve světě kybernetické bezpečnosti dvousečnou zbraní. Nabízí sice příležitosti ke zlepšení ochrany dat, ale zároveň představuje značné riziko, pokud se dostane do nesprávných rukou. Mezinárodní společenství musí spolupracovat na vývoji politik a technologií, které tato rizika zmírní a zajistí odpovědné využívání umělé inteligence.