Nejnovější modely o3 a o-4mini jsou schopny na základě analýzy obrázků odvodit polohu. Američané tvrdí, že mají k dispozici filtry, které mají této možnosti zabránit.
Před několika dny Sam Altman (generální ředitel OpenAI) prozradil, že zdvořilost uživatelů ho stojí miliony eur. Tato situace spolu s jeho záměrem spustit sociální síť založenou na umělé inteligenci udržuje americkou firmu v centru pozornosti. Nedávný výzkum však odhalil znepokojivý aspekt ChatGPT, kdy uživatelé zjistili, že nejnovější modely, jako je o3 nebo o-4mini, jsou schopny na základě analýzy obrázků s vysokou přesností odvodit polohu.
Schopnost umělé inteligence identifikovat zeměpisné polohy z obrázků je dána jejím tréninkem na obrovském množství vizuálních a textových dat. Tyto modely používají pokročilé techniky rozpoznávání vzorů k identifikaci charakteristických vizuálních prvků, které mohou být spojeny s konkrétními místy. Dokážou například rozpoznat památky, architektonické styly, místní flóru a faunu a další detaily, které jsou příznačné pro konkrétní místo.
Jak poznamenal TechSpot, uživatelé využívají tyto schopnosti k tomu, aby vyšli vítězně z titulů podobných GeoGuessr, ale mnozí další vyjádřili obavy ohledně ochrany soukromí. Nejenže je umělá inteligence schopna identifikovat místa, ale dokáže tak učinit s velmi malým množstvím vizuálních detailů. Nezastaví ji ani selfie nebo rozmazané snímky, protože tréninková data ChatGPT jí umožňují odhadnout jakoukoli polohu. To vyvolalo obavy z možných případů doxingu (odhalení polohy někoho bez jeho souhlasu).
Společnost OpenAI se proti obviněním brání
Není překvapením, že americká společnost na situaci rychle zareagovala objasněním několika sporných bodů. Ačkoli GPT-4o (další z nejúspěšnějších modelů firmy) je také schopen odhadovat polohu pomocí jednoduchých vodítek, původním záměrem nikdy nebylo uvést na trh model uvažování, který by tuto praxi mohl provádět. Společnost OpenAI prohlásila, že jejím cílem je vyvíjet technologie, které jsou prospěšné lidstvu, a že jakékoli zneužití jejích modelů je v rozporu s jejími etickými zásadami.
Společnost OpenAI zavedla bezpečnostní opatření, která snižují riziko neoprávněné identifikace osob na snímcích. Tato opatření zahrnují filtry, které blokují požadavky na soukromé nebo citlivé informace. Kromě toho společnost neustále pracuje na zlepšování přesnosti a bezpečnosti svých modelů. Společnost OpenAI však také zdůrazňuje pozitivní potenciál vizuálního uvažování v oblastech, jako je dostupnost, nouzové situace a výzkum. Například schopnost identifikovat polohu na základě obrázků může být užitečná v situacích pátrání a záchrany, kdy je rozhodující čas.
V reakci na tyto obavy vydala organizace OpenAI varování pro uživatele, v němž jim připomíná, aby si uvědomili, jakým způsobem používají nástroje umělé inteligence, a aby zvážili etické důsledky svého jednání. Tato praxe varování uživatelů se stává běžnou mezi vývojáři pokročilých technologií, kteří si uvědomují potřebu vzdělávat veřejnost v oblasti odpovědného používání umělé inteligence.