Téměř před rokem Microsoft za velkých fanfár oznámil Recall, revoluční funkci pro nové počítače Copilot+, která slibovala změnit způsob, jakým komunikujeme se svými zařízeními. Tento nástroj, který měl každých několik sekund pořizovat snímky obrazovky, převádět text pomocí OCR a vytvářet databázi všeho, co uživatel na svém počítači vidí, byl ostře kritizován odborníky na kybernetickou bezpečnost, jako je Kevin Beaumont, kteří zpočátku varovali před jeho vážnými bezpečnostními nedostatky.
Po lavině kritiky se Microsoft rozhodl odložit uvedení Recallu na trh a znovu jej promyslet. Nyní, když se funkce chystá vrátit do počítačů Copilot+, se Beaumont na nástroj znovu podíval, aby zjistil, zda byly jeho kontroverzní bezpečnostní problémy skutečně vyřešeny.
Nástroj, který si získal mnoho nepřátel
První odhalení nástroje Recall vyvolalo v technologickém průmyslu šok. Jak vysvětluje Beaumont, funkce byla vyvinuta v interních týmech Microsoftu, bez řádného dohledu týmů pro bezpečnost a ochranu soukromí a bez veřejného testování s členy programu Insider.
Reakce na sociálních sítích byla poměrně negativní, objevily se zprávy a videa věnované nebezpečnosti jejího používání. My v Genbeta jsme upozorňovali na jeho bezpečnostní problémy, kterých nebylo zrovna málo.
Beaumont tuto komunikační katastrofu přirovnává k uvedení Xboxu One na E3, kdy se zdálo, že vedení Microsoftu vůbec neví, co zákazníci skutečně chtějí. Poukazuje na to, že Recall se stal hromosvodem pro usměrňování obav lidí z umělé inteligence.
Recall přichází s vylepšením zabezpečení
Po téměř roce dodatečného vývoje Beaumont vyzdvihuje všechny změny, které Microsoft provedl v zabezpečení Recallu:
- Volitelná funkce: Během počátečního nastavení se systém uživatele jasně zeptá, zda chce aktivovat funkci Recall a nepoužívá triky, které by mu vnucovaly volbu. Možnosti „Ano“ a „Ne“ jsou prezentovány stejně, bez zvýrazňování jedné před druhou.
- Šifrovaná databáze: Společnost Microsoft investovala značné prostředky do vývoje robustního šifrovacího systému. Databáze SQLite je nyní šifrovaná a bezpečnostní klíče jsou uloženy ve speciální enklávě (VBS), přičemž operace s databází provádí izolovaný systém.
- Filtrování citlivých údajů: Recall se nyní pokouší identifikovat a filtrovat citlivé informace, jako jsou čísla kreditních karet a další osobní údaje a zabraňuje jejich indexování.
- Silnější ověřování: Při počátečním nastavení je vyžadováno použití funkce Windows Hello, která přidává další vrstvu zabezpečení.
After a massive user backlash, Microsoft is reintroducing "Recall, the AI tool rolling out in Windows 11 that will screenshot, index, and store everything a user does every three seconds." Privacy advocates are NOT happy… https://t.co/Dd9t5MAsYG
— StartMail (@MyStartMail) April 28, 2025
Kromě toho společnost Microsoft zavedla systém auditu, který uživatelům umožňuje zkontrolovat, jaké údaje byly zachyceny a uloženy, což poskytuje další úroveň transparentnosti. Tato funkce umožňuje uživatelům ručně odstranit data, která považují za citlivá nebo nepotřebná.
Ačkoli to stále není dostatečné
I přes tato vylepšení Beaumont identifikoval významné zranitelnosti, které nadále ohrožují bezpečnost a soukromí uživatelů:
Klamavé biometrické ověřování.
V dokumentaci společnosti Microsoft se uvádí, že „pro přihlášení a používání funkce Recall musíte mít povolenou alespoň jednu biometrickou možnost přihlášení do systému Windows Hello a to buď rozpoznání obličeje, nebo otisk prstu“. Beaumont však zjistil, že to platí pouze při počátečním nastavení.
Po nastavení může podle Beaumonta kdokoli, kdo zná čtyřmístný kód PIN uživatele, získat přístup k celé historii snímání bez dalšího biometrického ověření. Aby to odborník demonstroval, požádal svého netechnického partnera, aby se pokusil pomocí funkce Recall získat přístup ke svým soukromým konverzacím v aplikaci Signal z předchozího dne. Podařilo se jí to za pouhých pět minut s použitím kódu PIN, který jí předtím zůstal, když jej Beaumont použil k výběru peněz v bankomatu.
Jak odborník upozorňuje, tato zranitelnost umožňuje komukoli s chvilkovým přístupem k počítači a znalostí kódu PIN prohledat celou historii aktivit uživatele, včetně smazaných zpráv, zadaných hesel a dalšího citlivého obsahu.
Nedůsledné filtrování citlivých údajů
Systém filtrování citlivých údajů podle Beaumonta také nefunguje spolehlivě. Během svých testů odborník zdokumentoval, jak Recall zachytil a indexoval čísla kreditních karet a CVV kódy, přestože měl funkci filtrování povolenou. Při jedné příležitosti, kdy aktualizoval údaje o své kartě v rozhraní účtu Microsoft, zaznamenal Recall neplatná i platná čísla včetně bezpečnostního kódu.
Odborník doporučuje před nákupy online pozastavit funkci Recall, aby se ujistil, že nezaznamenává citlivé informace, a poté ji znovu aktivovat.
Nestabilita a nevyzpytatelné chování
Během testování dospěl Beaumont k závěru, že Recall může být také poměrně nestabilní. Občas se podle odborníka stane, že nástroj prostě přestane nahrávat bez zjevného důvodu. Zjistil také chyby ve funkci filtrování aplikací: při pokusu o vyloučení aplikace Signal systém nesprávně filtroval i její prohlížeč Vivaldi.
Podle Beaumonta tyto problémy naznačují, že nástroj ještě není zcela vyladěn pro masové vydání.
Důsledky pro soukromí
Expert také vznáší vážné otázky ohledně rizika pro naše soukromí při používání nástroje:
- Přetrvávání smazaných dat: Nástroj zachycuje a ukládá obsah i po jeho smazání. Zprávy smazané z aplikací Signal a WhatsApp, stejně jako zprávy smazané z aplikace Teams, jsou prostřednictvím nástroje Recall stále přístupné.
- Videokonference a chaty: Zaznamenává všechny videokonferenční aplikace, jako je Teams nebo Webex, včetně videozpráv a chatů. Pokud jsou povoleny živé titulky, zachycuje a indexuje také text toho, co bylo během hovoru řečeno ústně.
- Vzdálené relace: Ukládá a indexuje relace vzdálené plochy, například Azure Virtual Desktop, Windows App a AnyDesk, které by mohly ohrozit firemní prostředí.
- Pokročilé vizuální rozpoznávání: Funkce Recall automaticky klasifikuje a označuje vše na obrazovce. Beaumont předvedl, jak systém dokázal na obrázku identifikovat „kočku na knihách“, aniž by se tento text někde objevil. Indexoval také všechna jména knih a autorů, včetně ručně psaného textu a vertikálně orientovaného textu.
- Soukromé zprávy a fotografie: Systém zachytil a indexoval podle jména osobu na fotografii zaslané prostřednictvím soukromé samodestrukční zprávy. To znamená, že i obsah určený k tomu, aby nezanechal žádné stopy, je trvale archivován.
Tyto schopnosti vizuálního rozpoznávání jsou řízeny algoritmy strojového učení, což rovněž vyvolává obavy ohledně přesnosti a zkreslení, které jsou těmto systémům vlastní. Nástroje umělé inteligence se mohou při identifikaci nebo klasifikaci informací dopustit chyb, což by mohlo vést k nedorozuměním nebo nechtěnému porušení soukromí.
Mučení výkonu počítače
Přestože Recall obecně pracuje na pozadí, Beaumont poznamenal, že může být značným žroutem zdrojů. Často zjistil, že NPU (Neural Processing Unit) dosahuje dlouhodobě 80 %, což má také negativní vliv na výdrž baterie.
Během jeho herních sezení Recall nadále zachycoval a indexoval obsah, což mu umožnilo následně vyhledávat konkrétní prvky, jako jsou herní loga, zvířata nebo NPC. To způsobovalo znatelné poklesy výkonu. Podle Beaumonta navíc uživatelské rozhraní Recall spotřebovává také velké množství paměti. Už jen samotné procházení rozhraním vysávalo 1,2 GB paměti RAM jeho počítače.
Tato spotřeba prostředků je problematická zejména u starších zařízení nebo zařízení s omezenými specifikacemi, kde by spuštění aplikace Recall mohlo vést k výraznému zhoršení uživatelského zážitku.
Lidé, kteří by se měli vyhnout aplikaci Recall
Beaumont výslovně doporučuje, aby určité skupiny měly funkci Recall vypnutou:
- Lidé v situacích domácího násilí nebo partnerské kontroly
- Novináři a jejich důvěrné zdroje
- Ohrožené menšinové skupiny
- Politicky exponované osoby
- Podniky, které důkladně nezhodnotily důsledky pro soukromí
- Cestující překračující hranice do zemí nepřátelských vůči občanským svobodám
Kromě toho by organizace, které nakládají s citlivými informacemi, jako jsou advokátní kanceláře nebo finanční instituce, měly před zavedením funkce Recall do svých systémů pečlivě zvážit rizika.
Odvolání by mělo být nástrojem pro každý případ zvlášť
Beaumont sice uznává, že Microsoft v uplynulém roce vyvinul značné úsilí na zlepšení zabezpečení Recallu a označuje tento rozdíl za „jednodenní“, ale domnívá se, že stále existují významné problémy, které je třeba vyřešit.
Je přesvědčen, že pohled společnosti Microsoft na Recall je chybný. Podle jeho názoru by tuto funkci nechtěli aktivovat ani hráči, ani běžný uživatel. Beaumont navíc upozorňuje, že pro podniky představuje funkce Recall obrovská rizika spojená s ochranou osobních údajů a právním odhalováním, čímž se otevírá nová třída zranitelností.
Beaumont navrhuje, aby společnost Microsoft přeorientovala zaměření funkce Recall a prezentovala ji jako vynikající nástroj pro přístupnost pro osoby s mírnou kognitivní poruchou, místo aby se z ní snažila udělat stěžejní funkci pro všechny uživatele.
Nástroj by mohl být užitečný zejména ve vzdělávacích nebo terapeutických zařízeních, kde sledování činnosti uživatele může poskytnout cenné informace pro výuku nebo rehabilitaci.