OpenAI dočasně zakázala generování videí s vyobrazením Martina Luthera Kinga Jr. ve své nové platformě Sora poté, co rodina slavného aktivisty upozornila na urážlivé a znevažující rekonstrukce. Tento krok otevírá širší debatu o etice, památce veřejných osobností a odpovědnosti tvůrců umělé inteligence.
Společnost OpenAI oznámila, že dočasně pozastavila možnost vytvářet videa s vyobrazením vůdce hnutí za občanská práva Martina Luthera Kinga Jr. pomocí svého modelu umělé inteligence Sora poté, co někteří uživatelé zveřejnili rekonstrukce považované za urážlivé. Společnost se tak rozhodla na základě přímé žádosti rodiny tohoto aktivisty, která vyjádřila nespokojenost s neoprávněným a ponižujícím použitím jeho podobizny. V prohlášení zveřejněném na X společnost OpenAI vysvětlila:
„I když uznáváme legitimní zájem na svobodě projevu při zobrazování historických osobností, věříme, že veřejné osobnosti a jejich rodiny by měly mít konečnou kontrolu nad tím, jak je jejich obraz používán.“
Společnost dodala, že dědicové nebo zplnomocnění zástupci budou moci požádat, aby jejich podobizna nebyla použita v takzvaných „cameích“ Sory, což je funkce, která umožňuje vkládat podobu skutečných osob do videí generovaných umělou inteligencí.
Tento krok přichází jen několik týdnů po oficiálním spuštění Sory, první sociální videoplatformy OpenAI, která uživatelům umožňuje vytvářet hyperrealistické klipy historických osobností, celebrit nebo dokonce digitální verze sebe sama. Její debut vyvolal vlnu kritiky a znepokojení veřejnosti nad tím, jak snadno lze vyrobit falešné nebo zmanipulované snímky.
Související článek
Napětí mezi tvůrčí svobodou a respektem k historické paměti
Kontroverze zesílila, když dcera Martina Luthera Kinga mladšího, Bernice Kingová, zveřejnila na Instagramu zprávu, v níž uživatele žádá, aby jí přestali posílat videa, na nichž je její otec ztvárněn umělou inteligencí. „Je to zraňující a neuctivé,“ napsala. Její vzkaz následoval vzkaz Zeldy Williams, dcery zesnulého herce Robina Williamse, která stejnou žádost vyslovila o několik dní dříve.
Reakce obou nebyla náhodná. Podle deníku The Washington Post několik uživatelů Sory vytvořilo videa, v nichž digitální verze doktora Kinga vydává opičí zvuky nebo zápasí s Malcolmem X, další ikonickou postavou hnutí za občanská práva. V aplikaci kolovaly také pochybné rekonstrukce Boba Rosse, Whitney Houston a Johna F. Kennedy, což poukazuje na nedostatek vhodných filtrů a kontrolních mechanismů.
Tato situace znovu přivedla na pořad jednání debatu o etickém využívání umělé inteligence v audiovizuálním obsahu. Kromě skutečných lidí byla aplikace Sora kritizována také za to, že umožňuje nahrávat videa zobrazující díla chráněná autorským právem, jako jsou například South Park, Pokémoni nebo SpongeBob SquarePants. Tyto rekonstrukce vyvolaly obavy u držitelů práv v Hollywoodu, kteří se od spuštění nástroje obávají.
V reakci na to společnost OpenAI na začátku října oznámila, že umožní vlastníkům autorských práv vykonávat podrobnější kontrolu nad používáním jejich postav nebo ochranných známek v rámci nástroje Sora. Společnost také uvedla, že se bude dělit o část příjmů s držiteli licencovaného obsahu ve snaze vyhnout se budoucím soudním sporům.
Politika společnosti Sora je v kontrastu s liberálnějším přístupem společnosti OpenAI na ChatGPT, kde bylo nedávno potvrzeno, že dospělí budou moci v příštích měsících vést s chatbotem erotické rozhovory. Zatímco Sora zpřísňuje své filtry, konverzační asistent rozšiřuje své pole působnosti pro interakci, což odráží fázi interního experimentování, jak vyvážit kreativitu, bezpečnost a odpovědnost.
V rámci OpenAI někteří výzkumníci veřejně vyjádřili nespokojenost se spuštěním Sory a zpochybnili, zda odpovídá původnímu poslání společnosti, která vznikla jako nezisková organizace zaměřená na vývoj bezpečné umělé inteligence pro lidstvo. Sám Sam Altman, generální ředitel společnosti, přiznal, že tým v den spuštění pociťoval „trému“, protože si byl vědom potenciálního společenského dopadu produktu.
Nick Turley, produktový manažer ChatGPT, zase hájil filozofii, která stála za tímto rozhodnutím: „Nejlepší způsob, jak ukázat světu novou technologii, je vypustit ji do světa.“ Podle Turleyho se společnost OpenAI naučila tuto lekci s ChatGPT a nyní se ji snaží aplikovat na Soru, i když připustil, že tento proces zahrnuje pokusy, omyly a neustálé opravy.
Výzva regulace ve věku umělé inteligence
Pozastavení rekonstrukcí Martina Luthera Kinga Jr. znamená pro novou aplikaci Sora symbolický zlom. To, co začalo jako nástroj pro tvůrčí vyjádření, nakonec odhalilo etické a právní limity reprezentace památky historických osobností prostřednictvím algoritmů. Zdá se, že ve snaze o vyvážení inovací a respektu si společnost uvědomila, že pokud jde o generativní umělou inteligenci, ne vše, co je technicky možné, je morálně přijatelné.
Případ společnosti Sora a Martina Luthera Kinga Jr. poukazuje na naléhavou potřebu jasnější a přísnější regulace v oblasti umělé inteligence. Schopnost vytvářet hyperrealistický obsah představuje značná rizika, od dezinformací až po poškození pověsti veřejných osobností. Odborníci na technologickou etiku tvrdí, že společnosti by měly stanovit jasné a transparentní pokyny pro používání svých nástrojů a vlády by měly zasáhnout a vytvořit právní rámce, které by chránily jednotlivce i celou společnost.
Využití umělé inteligence k obnově obrazů a hlasů zesnulých osob navíc vyvolává otázky týkající se posmrtného souhlasu a respektu k památce zesnulých. Rodina Martina Luthera Kinga Jr. se jasně vyjádřila, že chce chránit aktivistův odkaz, a její intervence byla pro přehodnocení zásad společnosti OpenAI klíčová.
Vývoj a nasazení technologií umělé inteligence se nakonec musí řídit zdravými etickými zásadami. Technologické inovace musí jít ruku v ruce se společenskou odpovědností, která zajistí, že nástroje, které vytvoříme, budou lidstvu prospěšné, aniž by byly ohroženy základní hodnoty respektu a důstojnosti.
Společnost OpenAI, stejně jako další společnosti v oblasti umělé inteligence, čelí výzvě pohybovat se ve složitém terénu, kde se technologie rychle vyvíjejí, ale etické a právní normy se stále vyvíjejí. Pozastavení rekonstrukcí Martina Luthera Kinga Jr. je krok správným směrem, ale ještě je třeba udělat mnoho pro to, aby používání umělé inteligence bylo bezpečné, spravedlivé a respektující.