Společnost OpenAI nesporně změnila prostředí umělé inteligence zavedením nástroje ChatGPT, který našel uplatnění v různých odvětvích, jako je zdravotnictví, vzdělávání a další. S velkou mocí však přichází i velká odpovědnost a společnost OpenAI se potýká se zneužitím své technologie.
Rostoucí rozšíření technologie umělé inteligence vyvolalo souběžný nárůst obav ohledně jejího etického používání. OpenAI jako lídr v této oblasti nese odpovědnost za to, aby její nástroje byly používány eticky a zodpovědně. Navzdory důslednému úsilí o ochranu své technologie se stále objevují případy jejího zneužití. Společnost OpenAI nedávno odhalila a ukončila několik kampaní v sociálních médiích, které zneužívaly ChatGPT k propagandě, přičemž významné vazby byly vysledovány do Číny.
Mezi těmito operacemi, kterých bylo celkem deset, byly čtyři, které byly přímo napojeny na Čínu. Kampaně využívaly ChatGPT k vytváření politicky zabarveného obsahu a zapojení do různých online platforem pod falešnými identitami s cílem manipulovat veřejným míněním. Zvláště pozoruhodná kampaň, nazvaná „Strýček spam“, se zaměřovala na citlivá témata v USA a snažila se vyvolat kontroverzi a ovlivnit diskusi. Nejedná se o ojedinělý případ, podobné zneužití je připisováno i dalším zemím, včetně Ruska, Íránu a Severní Koreje.
Podle zprávy NPR zneužití ChatGPT přesahuje rámec pouhé tvorby obsahu. Propagandistické příspěvky byly strategicky zesíleny, aby vypadaly autentičtěji a byly rozšířené, což vyvolává obavy z možného dopadu na vnímání veřejnosti. Nástroj byl rovněž použit k vytváření přehledů o výkonnosti těchto aktivit, což poukazuje na sofistikovanou povahu těchto operací. Zpráva konstatuje:
Související článek
„V roce 2013 se v rámci projektu „Síťování“ uskutečnilo několik akcí, které byly zaměřeny na podporu propagandy:
Čínští propagandisté používají ChatGPT k psaní příspěvků a komentářů na sociálních sítích – a také k vytváření podrobných hodnocení výkonnosti této práce pro své šéfy.“
Ben Nimmo, vedoucí vyšetřovatel zpravodajského a vyšetřovacího týmu OpenAI, vyjádřil obavy z rozvíjející se taktiky, která je používána:
„To, co vidíme ze strany Číny, je rostoucí rozsah tajných operací, při nichž se používá stále širší škála taktik.“
Zneužití ChatGPT se rozšiřuje na vytváření e-mailů určených analytikům, novinářům a politikům, jejichž cílem je navázat vztahy pod falešnou záminkou a získat citlivé informace. Tato strategická manipulace s využitím nástrojů umělé inteligence nejen porušuje etické hranice, ale také představuje významnou hrozbu pro integritu informací. Zdůrazňuje naléhavou potřebu ostražitosti a proaktivních opatření ze strany společností, které by takovému zneužívání zabránily.
V reakci na tyto výzvy společnost OpenAI zintenzivňuje své úsilí o monitorování a zmírnění zneužití. Společnost investuje do pokročilých detekčních systémů a spolupracuje s mezinárodními partnery, aby tyto hrozby identifikovala a čelila jim. Kromě toho se společnost OpenAI zavázala k transparentnosti a aktivně spolupracuje s tvůrci politik s cílem vytvořit robustní rámce, které zajistí etické využívání technologií umělé inteligence.
Vzhledem k tomu, že se umělá inteligence neustále vyvíjí, nelze přeceňovat význam odpovědných inovací. Zkušenosti společnosti OpenAI slouží jako varovný příklad pro technologický průmysl a zdůrazňují potřebu neustálé ostražitosti a etického řízení při vývoji a zavádění nástrojů AI.