Google uvedl nový nástroj Nano Banana Pro, který dokáže generovat vizuály nerozeznatelné od reálných fotografií. Zmizely typické znaky umělosti, detekční software selhává a jediný způsob, jak obrázky rozpoznat, drží v rukou sám Google. To vyvolává vážné otázky o budoucnosti důvěry ve vizuální média.
Až dosud existovalo několik signálů, které nám pomáhaly identifikovat obrázky generované umělou inteligencí. Google je ale právě zničil – ani specializovaný software už nedokáže identifikovat jejich výtvory. Už jsme věděli, že Gemini 3 bude nejvýkonnější umělou inteligencí, jakou jsme dosud viděli, nečekali jsme však, že Nano Banana Pro, pokročilý systém pro generování a úpravu obrázků, který Google uvedl spolu s novou verzí LLM, změní pravidla hry. Jeho „výrobky“ jsou prakticky neidentifikovatelné jako vytvořené umělou inteligencí. Pokud se vám to ještě nestalo, může se stát, že brzy nebudete schopni rozeznat, které obrázky jsou umělé a které skutečné. Už se to netýká jen tzv. boomers, je to i váš problém.
Dosud generování umělých snímků prozrazovaly některé neskutečné detaily, ale nový model velkého Google je dokázal eliminovat. Už nestačí spočítat prsty na ruce nebo přiblížit vlasy vygenerovaných jedinců, abyste zjistili, zda jsou vlasová vlákna odlišena. Společnost navíc uvádí, že dokáže spojit až 14 různých vizuálních prvků do jedné ucelené kompozice, udržet konzistentní až pět různých osob ve scéně a vykreslit čitelný a přesný text přímo do obrazu – tedy v podstatě vše, co dříve nešlo.
Proč je to velký problém
Studie pod vedením Swansea University, publikovaná v časopise Cognitive Research: Principles and Implications, vydaná zhruba měsíc před příchodem Gemini 3 a Nano Banana Pro, dospěla k závěru, že účastníci nedokázali přesně rozlišit mezi tvářemi vygenerovanými umělou inteligencí a skutečnými fotografiemi, a to ani v případě celebrit, jejichž tváře jim byly známé.
great video by @showtoolsai on how scary and addictive ai videos are targeted children online through the youtube algorithm. this does not protect child safety and @YouTube needs to step in and end this! pic.twitter.com/lTcn1mUlkz
— end cancel culture (@endcancelling) August 11, 2025
Profesor Jeremy Tree, spoluautor studie, v tiskové zprávě varoval, že to „vyvolává vážné obavy ohledně dezinformací a důvěry ve vizuální média„, a zdůraznil naléhavou potřebu regulovat používání těchto nástrojů.
Problém již existoval, Nano Banana Pro jej pouze zveličuje. Jeho schopnost získávat informace z reálného světa v reálném čase prostřednictvím vyhledávače Google mu umožňuje vytvářet infografiky a vizualizace dat s věrohodným kontextem, zatímco jeho pokročilé ovládací prvky pro úpravy umožňují téměř neznatelně měnit osvětlení, zaostření a perspektivu existujících obrázků.
Jeremy Carrasco, výzkumník stojící za projektem showtoolsai a jeden z nejspolehlivějších hlasů v oblasti detekce obrázků pomocí umělé inteligence, varuje, že jediný způsob, jak identifikovat obrázky generované novým modelem společnosti Google, je v jejích vlastních rukou, protože „stávající software již začínal selhávat a nyní je zcela zastaralý„.
Společnost Google implementovala SynthID, neviditelný digitální vodoznak, který je vložen do pixelů každého snímku vygenerovaného pomocí aplikace Nano Banana Pro. Tento digitální podpis, navržený tak, aby byl nepostřehnutelný a nebylo možné jej změnit bez zničení obrázku, umožňuje identifikovat obsah vytvořený umělou inteligencí, a to i poté, co byl oříznut nebo podroben snímání obrazovky.
Odborníci, jako je Jeremy Carrasco, však varují, že tato technologie není dokonalá a že pokaždé, když se na trhu objeví nějaká schopnost AI, je rychle replikována jinými hráči, kteří nemusí být tak opatrní, pokud jde o bezpečnostní opatření a transparentnost.
Pravdou je, že ačkoli je SynthID nástrojem s otevřeným zdrojovým kódem určeným pro další vývojáře, kteří jej mohou implementovat do svých vlastních projektů, v tuto chvíli k němu lze přistupovat pouze prostřednictvím samotného klienta Gemini 3. Nemyslím si, že je příliš dobrý nápad nechat Google, aby sám sebe hlídal, jak říká Jeremy, „žhář nám půjčuje hasicí hadici„.
Zkrátka už se nedá věřit ničemu. Snímky Nano Banana Pro vypadají stoprocentně reálně, neexistuje způsob, jak je od oka identifikovat. Navíc v současné době je jediný systém, který je schopen je odhalit, zcela ovládán společností Google. Doporučujeme vám, abyste byli velmi opatrní ke všemu, co vidíte, pamatujte si, že „nejste imunní vůči propagandě„, a začněte si vnitřně uvědomovat, že nejste imunní ani vůči obrázkům generovaným umělou inteligencí.
Etické a sociální důsledky
Schopnost generovat obrazy, které jsou nerozeznatelné od reality, vyvolává řadu etických a sociálních důsledků, které nelze ignorovat. Vizuální dezinformace lze využít k manipulaci s veřejným míněním, ovlivňování voleb a vytváření falešných narativů, které mohou mít pro společnost významné důsledky. To je obzvláště znepokojivé ve světě, kde jsou obrázky a videa masivně konzumovány prostřednictvím sociálních médií.
Využívání těchto technologií k vytváření nepravdivého obsahu by navíc mohlo podkopat důvěru v média a vizuální důkazy obecně. To by mohlo vést k všeobecné skepsi vůči jakýmkoli obrázkům nebo videím, dokonce i těm, které jsou pravé, což by zkomplikovalo úkol ověřit pravost informací.
Na druhou stranu by schopnost vytvářet hyperrealistické obrazy mohla mít i pozitivní využití, například v oblasti digitálního umění, reklamy a filmové produkce. Potenciál zneužití je však značný, a proto je nezbytné, aby technologické společnosti, vlády a celá společnost spolupracovaly na vytvoření pravidel a předpisů, kterými se bude řídit etické využívání těchto technologií.
Pokročilé zobrazovací schopnosti nástrojů, jako je Nano Banana Pro, jsou sice působivé, ale zároveň představují významné problémy, které je třeba řešit, aby bylo zajištěno odpovědné a etické využívání těchto technologií.