Adam Mosseri varuje, že doba vizuální důvěry skončila. Umělá inteligence dokáže vytvořit dokonale falešné obrazy a videa a Instagram proto hledá nové způsoby, jak podpořit autenticitu – od označování AI obsahu po posílení důvěryhodnosti tvůrců.
Adam Mosseri, šéf Instagramu, vydal v posledních měsících několik veřejných varování. To nejnovější se týká dopadu rozvoje umělé inteligence, přičemž sám Mosseri tvrdí, že se nacházíme v době, kdy nemůžeme předpokládat, že fotografie nebo videa, která vidíme, jsou skutečná. Jedná se tedy o silné sdělení vzhledem k identitě osoby, která jej vysílá: generálního ředitele jedné z nejvlivnějších sociálních platforem na světě.
Pro Mosseriho je to jasné znamení kulturní změny zejména v rámci Instagramu a společnosti obecně: pokud to uzná sám šéf, znamená to, že už nemáme co do činění s okrajovým problémem. Nastolil proto nepříjemný zvrat, když poukázal na to, že už nemusíme věřit tomu, co vidí naše oči, ale že skepse by měla nabýt na váze. Podle něj bude také důležité podívat se na to, kdo a proč to zveřejňuje, což jsou rady, které bychom podle něj měli uvést do praxe, než se o ně podělíme.
K tomu všemu Mosseri také dodává, že přemýšlí o řešeních boje proti falešnému obsahu generovanému pomocí umělé inteligence. Jedním z příkladů je označování jako vytvořený umělou inteligencí, ale budou také přidávat více kontextu k účtům a zavádět techniky ověřování při analýze fotografií. Pro tvůrce naopak obavy směřují k další oblasti, kterou Mosseri nepokrývá: k přirozené dokonalosti.
Pokud bude možné „dokonalý snímek“ uměle vyrobit, stane se ruční práce a přirozenost cenným zbožím, a bude tedy stále obtížnější jich dosáhnout. Zpráva tak zapadá do dalšího symptomu: jak se web plní levným syntetickým obsahem, platformy hledají způsoby, jak se nestát odkladištěm „kopií kopií“. Umělá inteligence překvapivě vzala útokem leštěnou estetiku, protože bezchybnost už nic nedokazuje.
Pro uživatele zanechává vzestup AI složitý scénář. Bohužel pro nás umělá inteligence dala vzniknout více podvodům, více manipulacím a více falešnému virálnímu obsahu. Mosseriho varování tak tento názor posiluje, protože Instagram hledá způsoby, jak využít nástroje autentičnosti, aby dal člověku hodnotu. Dává však vzniknout nadějnému scénáři: pokud digitální nelze ověřit, stává se nejcennějším zbožím to přirozené.
V této souvislosti je zásadní pochopit, jak se v posledních letech vyvíjela umělá inteligence. Nástroje generativní umělé inteligence, jako jsou deepfakes, se zdokonalily natolik, že dokáží vytvářet obrázky a videa, která jsou téměř k nerozeznání od skutečných. Tyto technologie se používají v různých oblastech, od zábavy po politiku, což vyvolává obavy z jejich potenciálu šířit dezinformace.
Sociální platformy navíc podnikají kroky ke zmírnění těchto rizik. Například Facebook zavedl systém kontroly faktů, který ve spolupráci s třetími stranami identifikuje a označuje falešný obsah.
Na druhou stranu vliv umělé inteligence na autenticitu obsahu také podnítil obnovení zájmu o tradiční formy umění a tvorbu autentického obsahu. Spotřebitelé si začínají více vážit skutečných zážitků a ručně vyráběných produktů, což by mohlo v budoucnu ovlivnit tržní trendy.