Pokud člověk napadne systém společnosti, může být potrestán podle zákona? Ale co když něco takového udělá umělá inteligence?
Anthropic, přední společnost v oblasti umělé inteligence, plánuje mít virtuální zaměstnance poháněné umělou inteligencí, uvedl v rozhovoru pro Axios Jason Clinton, šéf bezpečnosti této společnosti. Tato iniciativa by mohla způsobit revoluci ve způsobu, jakým společnosti řídí svůj každodenní provoz, ale také vyvolává vážné obavy ohledně kybernetické bezpečnosti.
V oblasti bezpečnosti je implementace autonomních agentů, kteří reagují na phishingová upozornění a další indikátory hrozeb, již realitou. Virtuální zaměstnanci by však tuto automatizaci posunuli na novou úroveň. Podle Clintona se pracuje na tom, aby tyto identity umělé inteligence měly vlastní „paměť“, role ve firmě a dokonce i firemní účty a hesla. To vyvolává otázku, jak budou tyto digitální identity spravovány a chráněny.
Společnost Anthropic uznává dvě klíčové odpovědnosti při řešení bezpečnostních výzev souvisejících s AI. Za prvé, provádět rozsáhlé testování Claudových modelů, aby bylo zajištěno, že odolají kybernetickým útokům. Za druhé, průběžně monitorovat bezpečnostní problémy a zmírňovat způsoby, jakými mohou záškodníci zneužít Claude. Clinton zdůrazňuje důležitost těchto opatření, aby se zabránilo potenciálnímu narušení bezpečnosti.
"AI Employees Are Coming: Anthropic Foresees Virtual Workers Within a Year"
— Chubby
Anthropic's Chief Information Security Officer, Jason Clinton, predicts that AI-powered virtual employees will begin operating within corporate networks in the next year.
These AI entities would… pic.twitter.com/cqzb7tJPO9(@kimmonismus) April 22, 2025
Je zajímavé, že tatáž společnost požádala své lidské zaměstnance, aby při podávání žádostí o volná pracovní místa ve firmě nepoužívali umělou inteligenci k vytváření svých životopisů nebo motivačních dopisů. Důvodem je snaha o posouzení skutečných dovedností uchazečů, což podtrhuje význam autenticity v procesu náboru.
Velké bezpečnostní problémy k řešení
Generální ředitel společnosti Anthropic tvrdí, že kolem virtuálních zaměstnanců existuje řada bezpečnostních problémů, které je třeba ještě vyřešit. Podle Axiosu mezi tyto otázky patří, jak chránit uživatelské účty zaměstnanců s umělou inteligencí, jaký přístup k síti by jim měl být udělen a kdo je zodpovědný za správu jejich činností. Clinton zdůrazňuje, že je třeba tyto otázky řešit, aby se předešlo potenciálním bezpečnostním rizikům.
Správci sítí se již nyní například potýkají s problémy při monitorování toho, které účty mají přístup k různým systémům a při obraně proti útočníkům, kteří na Dark Webu nakupují opakovaně používaná hesla z účtů zaměstnanců. Zaměstnanci s umělou inteligencí by mohli při plnění úkolu jednat neoprávněně a ohrozit firemní systém, což vyvolává otázky ohledně odpovědnosti v případě bezpečnostního incidentu.
V případě bezpečnostního incidentu způsobeného lidským zaměstnancem umožňují současné zákony potrestat odpovědnou stranu. V případě agenta s umělou inteligencí však vyvstává otázka: „Kdo je v tomto novém světě odpovědný za agenta, který dosáhl tohoto bodu?“ Clinton se zajímá zejména o řešení, která poskytují přehled o činnostech účtů zaměstnanců s umělou inteligencí a o nástroje, které vytvářejí nový systém klasifikace účtů pro lepší správu virtuálních zaměstnanců.
Clinton říká, že ho zajímají zejména řešení, která poskytují přehled o tom, co účet zaměstnance s umělou inteligencí v systému dělá a také nástroje, které vytvářejí nový systém klasifikace účtů, jenž lépe zohledňuje virtuální zaměstnance.
AI píše veškerý kód
Před měsícem Dario Amodei, generální ředitel společnosti Anthropic, prohlásil, že brzy by téměř veškerý kód mohla generovat AI. Anthropic je společnost zabývající se umělou inteligencí, kterou založili bývalí zaměstnanci OpenAI a která má na trhu asistenta Clauda.
Řekl: „Když se podívám na kódování a programování, což jsou oblasti, kde AI dělá největší pokroky, zjišťujeme, že jsme 3-6 měsíců od světa, kde 90 % kódu píše AI. A za 12 měsíců bychom mohli být ve světě, kde AI píše prakticky veškerý kód“.
Ve stejném článku Axios uvádí, že si je vědom toho, že integrace AI do pracovního prostředí již způsobuje problémy a že „přijít na to, jak řídit virtuální zaměstnance, nebude snadné“.
Společnost Lattice, která se zabývá řízením výkonnosti, loni oznámila, že roboti s umělou inteligencí by měli být součástí pracovní síly, včetně zařazení do organizačních schémat firem. Po množství stížností však společnost svůj postoj změnila.
Společnost Lattice, platforma pro řízení výkonnosti se sídlem v San Francisku, před několika měsíci oznámila svůj plán přistupovat k botům s umělou inteligencí jako k zaměstnancům v rámci svého interního softwaru: začlenit je, integrovat do organizační struktury společnosti a řídit jejich výkonnost. Krátce poté musela svůj postoj po kritice ze strany personalistů a technologických odborníků změnit.