Google spustil nástroj SynthID, který umožňuje odhalit, zda bylo video vytvořeno jeho vlastní umělou inteligencí. Systém využívá neviditelný vodoznak, ale má zásadní omezení: nezachytí obsah generovaný jinými AI modely. Odborníci proto varují – bez globálního standardu zůstává detekce AI videí jen polovičním řešením.
S rostoucí vlnou hyperrealistických videí vytvořených umělou inteligencí se pro mnoho uživatelů internetu stává problémem rozlišit skutečnost od fikce. V reakci na to společnost Google posílila nástroje pro transparentnost svého asistenta s umělou inteligencí Gemini; uživatelé nyní mohou nahrát video do modelu a zeptat se: „Bylo toto video vygenerováno pomocí umělé inteligence Google?“. Tato nová schopnost má však jednu zásadní výhradu, která omezuje její všeobecnou užitečnost.
Jak to funguje
Postup použití detektoru je jednoduchý a intuitivní; v aplikaci Gemini, ať už na webu nebo v mobilu, stačí nahrát příslušný videosoubor a položit otázku. Gemini se postará o zbytek: prohledá zvukovou i obrazovou stopu a najde v ní digitální vodoznak, který je lidským okem nepostřehnutelný a nazývá se SynthID.
Tato technologie, vyvinutá společností Google, je automaticky vkládána do veškerého obsahu vytvořeného nebo upraveného pomocí jejích nástrojů umělé inteligence. Když se systém s tímto vodoznakem setká, nevydá pouze obecné „ano“ nebo „ne“. Místo toho poskytne kontextualizovanou odpověď, která může například specifikovat: „SynthID byl zjištěn ve zvuku mezi 10. a 20. sekundou.“ Je třeba poznamenat, že soubory, které lze analyzovat, mají technická omezení, neboť sama společnost Google upozorňuje, že jejich velikost musí být menší než 100 MB a jejich maximální délka nesmí přesáhnout 90 sekund.
Související článek
Tento typ nástroje je samozřejmě dobrá věc, ale odborníci, jako je Jeremy Carrasco ze společnosti Showtoolsai, varují, že omezení tohoto nástroje a neexistence univerzálního standardu „bezpečnosti umělé inteligence“, který by nám umožnil určit, který materiál je „organický“ a který se zrodil z jazykového modelu, je velmi nebezpečný. Carrasco jde dokonce tak daleko, že tvrdí, že takový nástroj nikdy nevznikne, protože „prostě nevydělává, společnosti nemají motivaci ho vytvářet, pokud k tomu nejsou nuceny“.
SynthID je opět užitečný, ale doporučuji jej doplnit aktivním kritickým myšlením. Je nezbytné klást si otázky, kdo a proč by danou scénu natočil, sledovat, zda nejsou jemně porušeny zákony reality, nebo věnovat pozornost anomáliím ve složitých částech, jako jsou ruce, synchronizace rtů nebo „šum“ digitální kamery. To jsou klíčové lidské dovednosti, které nám mohou pomoci odhalit umělé video, aniž bychom potřebovali vodoznak.
Také výhrada, kterou jsem zmínil dříve, není nesmysl. Gemini dokáže spolehlivě identifikovat pouze obsah, který nese „otisk prstu“ SynthID, tj. vytvořený pomocí nástrojů umělé inteligence společnosti Google. Pokud bylo video vytvořeno pomocí konkurenčního modelu, například Sora nebo jiného, Gemini nebude schopen určit jeho původ.
Budoucnost ověřování obsahu generovaného AI
Zavedení nástrojů, jako je SynthID, je pouhým začátkem v závodě o zajištění pravosti digitálního obsahu. S rozvojem technologií se očekává, že i další společnosti vyvinou vlastní verze digitálních vodoznaků. Skutečné řešení by však mohlo spočívat ve vytvoření globálního standardu, který by přijaly všechny technologické společnosti, podobně jako je tomu u bezpečnostních standardů v odvětví kybernetické bezpečnosti.
Kromě toho je při využívání umělé inteligence zásadní úloha vzdělávání. Uživatelé si musí být vědomi možností a omezení těchto nástrojů, aby je mohli efektivně využívat. Klíčové pro přípravu společnosti na nárůst obsahu vytvářeného umělou inteligencí by mohly být osvětové kampaně a vzdělávání v oblasti digitálních médií.
V neposlední řadě bude zásadní spolupráce mezi vládami, technologickými společnostmi a organizacemi občanské společnosti při vytváření předpisů, které zajistí transparentnost a etiku při využívání umělé inteligence. Vytvoření mezinárodního regulačního rámce by mohlo být klíčem k ochraně uživatelů a zajištění odpovědného využívání této technologie.