Umělá inteligence už dávno není jen nástrojem pro psaní textů nebo tvorbu obrázků. Stále častěji může vstupovat do rozhodování o lidech, pracovat s biometrickými údaji nebo vytvářet obsah, který je obtížné rozeznat od skutečnosti. S tím přicházejí nová pravidla i otázka, kdo a jak bude jejich dodržování v Česku kontrolovat. Exkluzivně pro Techzprávy.cz tuto problematiku přiblíží Mgr. Anna Hroudová, která od září 2026 vede nové oddělení dozoru umělé inteligence Českého telekomunikačního úřadu.
Evropský AI Act postupně zavádí pravidla pro používání umělé inteligence a některé praktiky přímo zakazuje. Pro běžného člověka ale nemusí být vůbec jednoduché poznat, kdy se na něj nová ochrana vztahuje, kam se obrátit při podezření na porušení pravidel nebo jak zjistit, že o něm rozhodoval algoritmus. Stejně důležité bude, jak bude dohled fungovat v praxi a co budou české úřady schopny skutečně kontrolovat.
Teprve praxe ukáže, jak účinná nová ochrana skutečně bude. Zásadní bude například to, zda člověk vůbec pozná, že do rozhodování o něm vstoupila umělá inteligence, jak může takový postup zpochybnit a co dokáže úřad prověřit ve chvíli, kdy algoritmus funguje uvnitř systému soukromé společnosti. Mgr. Anna Hroudová tak může ukázat nejen hranice nové regulace, ale především to, jaké možnosti bude mít běžný člověk, když bude mít pocit, že AI zasáhla do jeho práv.
1. Od 2. srpna platí nová pravidla transparentnosti. Kdy má běžný člověk právo vědět, že komunikuje s AI, a ve které situaci naopak firma nemusí použití AI vůbec oznamovat?
Od 2. srpna 2026 platí, že poskytovatel systému určeného k přímé interakci s lidmi musí zajistit, aby člověk věděl, že komunikuje se systémem AI. Týká se to chatbotů, voicebotů a podobných nástrojů. Informace má přijít při první interakci.
Výjimka platí tam, kde je to z okolností zřejmé rozumně informovanému člověku, a dále v zákonem vymezených případech souvisejících s odhalováním trestné činnosti. AI Akt nezavádí obecnou povinnost oznamovat každé použití AI. Pokud firma využije AI jako pomůcku při vlastní práci, třeba k přípravě podkladu nebo k překladu, a výsledek za ni prezentuje člověk, oznamovací povinnost z tohoto ustanovení nevzniká. Pravidla míří na situace, kdy by člověk mohl být uveden v omyl.
2. Představme si uchazeče o práci, kterého systém automaticky vyřadí z výběrového řízení. Jak může vůbec zjistit, že v rozhodnutí hrála roli AI, a co může udělat, pokud má podezření, že systém postupoval nespravedlivě?
Systémy používané při náboru a výběru zaměstnanců řadí AI Akt mezi vysoce rizikové. Povinnosti pro tuto kategorii se po letošní evropské novele uplatní od 2. prosince 2027.
Od té doby bude platit několik věcí. Zaměstnavatel bude muset zaměstnance a jejich zástupce informovat, že takový systém na pracovišti používá. Na systém bude muset dohlížet člověk s odpovídající kompetencí. A člověk dotčený rozhodnutím, které se opírá o výstup takového systému a má na něj významný dopad, bude mít právo na jasné a smysluplné vysvětlení role, kterou systém v rozhodnutí sehrál.
Pokud má uchazeč pocit, že proces nebyl férový, může požádat zaměstnavatele o informaci, jak výběr probíhal. Při podezření na diskriminaci se lze obrátit na veřejného ochránce práv. Firmám doporučuji připravovat se na nové povinnosti s předstihem.
3. AI Act řadí některé systémy používané při náboru a řízení pracovníků mezi vysoce rizikové. Co bude v praxi rozhodovat o tom, zda jde ještě o běžný pomocný nástroj personalisty, nebo už o systém podléhající přísnějším pravidlům?
Rozhoduje účel, ke kterému je systém určen, a míra, v jaké ovlivňuje rozhodnutí o konkrétním člověku.
AI Akt počítá s tím, že systém z vyjmenované oblasti nemusí být vysoce rizikový, pokud nepředstavuje významné riziko pro zdraví, bezpečnost nebo základní práva. To platí tehdy, když plní úzce vymezený procedurální úkol, jen vylepšuje výsledek činnosti, kterou předtím vykonal člověk, nebo provádí přípravnou úlohu.
Nástroj, který personalistovi upraví formulaci inzerátu nebo naplánuje termíny pohovorů, tuto výjimku zpravidla splní, a vysoce rizikovým systémem tedy nebude. Naproti tomu systém, který kandidáty sám vyhodnotí a určí, kdo postoupí do dalšího kola, výjimku nesplňuje a vysoce rizikovým systémem je. Pokud systém provádí profilování fyzických osob, je vysoce rizikový vždy, bez ohledu na výjimku.
Poskytovatel, který dojde k závěru, že jeho systém do této kategorie nespadá, musí toto posouzení zdokumentovat ještě před uvedením na trh.
4. Pokud obchod, zaměstnavatel nebo pořadatel akce použije kamerový systém s AI, jaká pravidla platí pro rozpoznávání emocí a biometrickou kategorizaci? Které praktiky jsou zakázané a kdy musí být člověk o použití AI informován?
Na první pohled to člověk pozná těžko, proto AI Akt stanoví jak jasné zákazy, tak povinnost informovat.
Některé praktiky jsou zakázané už od února 2025. Zaměstnavatel nesmí pomocí AI rozpoznávat emoce svých zaměstnanců, s výjimkou zdravotních a bezpečnostních důvodů. Nikdo nesmí biometricky kategorizovat lidi tak, aby z jejich podoby odvozoval rasu, politické názory, členství v odborech, náboženské přesvědčení, sexuální život nebo orientaci. Zakázané je také necílené získávání snímků obličejů z internetu nebo kamerových záznamů za účelem vytváření databází.
Pokud obchod nebo pořadatel akce použije rozpoznávání emocí či biometrickou kategorizaci v podobě, která zakázaná není, musí o tom od srpna 2026 dotčené osoby informovat. Kdo má pochybnost, může se provozovatele přímo zeptat, co systém dělá a k čemu slouží.
5. Od srpna 2026 platí povinnosti označovat některý syntetický obsah a deepfaky. Kdo nese odpovědnost, když AI video vytvoří jeden člověk, upraví ho druhý a zveřejní ho platforma nebo médium?
Ten, kdo deepfake vytvoří, má povinnost zveřejnit, že obsah byl uměle vytvořen nebo manipulován. Platí to tehdy, když s ním nakládá v rámci profesní činnosti. Na čistě osobní, neprofesionální použití se tato povinnost nevztahuje.
Ten, kdo hotové video pomocí AI významně upraví a zveřejní, má stejnou povinnost.
Zákon ji neváže jen na původního tvůrce, ale na každého, kdo obsah pomocí AI vytvoří nebo podstatně změní a pak ho vypustí ven. Skutečnost, že video vzniklo jinde, ho tedy nezbavuje odpovědnosti.
Vedle toho odpovídá poskytovatel samotného generativního systému. Ten musí zajistit, aby výstupy jeho nástroje byly označené ve strojově čitelném formátu a rozpoznatelné jako uměle vytvořené. U systémů uvedených na trh před 2. srpnem 2026 je pro splnění tohoto požadavku stanoveno přechodné období do 2. prosince 2026. Jde ale o jinou povinnost než viditelné označení pro diváka, které nese ten, kdo obsah zveřejňuje.
6. Pokud člověk narazí na realistický deepfake, který není označený, co má prakticky udělat? Bude možné podat podnět přímo ČTÚ a jaké důkazy má smysl si uchovat?
Doporučila bych obsah dál nešířit. Nahlásit ho platformě, na které se objevil. Smysl má uložit si odkaz na obsah, snímky obrazovky s datem a časem, označení účtu, který obsah zveřejnil, a informaci o tom, kde a jak se šířil.
Podnět lze ČTÚ zaslat už dnes, například prostřednictvím elektronické podatelny. Je ale férové říct, že dozorové pravomoci podle AI Aktu budeme moci vykonávat až po nabytí účinnosti českého zákona o umělé inteligenci.
7. AI může zasáhnout člověka, aniž by znal název systému nebo jeho dodavatele. Bude pro podání stížnosti stačit popsat konkrétní situaci, nebo bude občan muset nejprve sám zjistit, jaký AI systém byl použit?
Ano. AI Akt dává každému, kdo má důvod se domnívat, že byla porušena jeho ustanovení, právo podat stížnost u příslušného orgánu dozoru nad trhem. Nepožaduje, aby člověk znal název systému nebo jeho dodavatele. Zjistit, co bylo použito a kdo za to odpovídá, je úkolem dozorového orgánu, který k tomu má nástroje.
Pomůže, když je podnět co nejkonkrétnější: kdy a kde se situace odehrála, která firma nebo instituce v ní vystupovala, co se stalo a jaké má člověk podklady. Zároveň je dobré vědět, že podnět slouží k prověření dodržování pravidel.
8. ČTÚ je jen jedním z orgánů, které se budou AI věnovat. Jak má běžný člověk poznat, zda jeho případ patří ČTÚ, ÚOOÚ, České národní bance, inspekci práce nebo jinému úřadu? Pošlou si úřady podnět samy, pokud se občan obrátí na nesprávný?
Běžný člověk to rozlišovat nemusí, a to je záměr. Podle současného návrhu zákona o umělé inteligenci má být ČTÚ hlavním orgánem dozoru nad trhem a zároveň jednotným kontaktním místem. Na dozoru se mají podílet i další orgány podle svých stávajících kompetencí a v oblasti základních práv má mít roli veřejný ochránce práv. Konečnou podobu určí až schválený zákon.
Pokud se občan obrátí na nesprávný úřad, jeho podání se neztratí. Správní řád ukládá orgánu, který není příslušný, podání bez zbytečného odkladu postoupit příslušnému orgánu a podatele o tom vyrozumět. Naším cílem je, aby tato spolupráce fungovala hladce a aby se lidé nemuseli orientovat v tom, který úřad je zrovna na řadě.
9. Ještě nedávno jste na Svazu průmyslu zastupovala pohled firem a podílela se na tvorbě a vyjednávání evropské regulace AI. Co vám tato zkušenost dává pro roli dohledu a v čem může být znalost firemního prostředí pro ČTÚ přínosem?
Myslím si, že lépe chápu, jak firmy nová pravidla čtou, kde vzniká nejistota a co jejich zavedení reálně obnáší. Pro dohled je to užitečné. Úřad, který rozumí praxi, umí klást správné otázky a vysvětlovat pravidla tak, aby byla skutečně proveditelná.
10. ČTÚ má vedle kontrol a sankcí také pomáhat pravidla převádět do praxe. Kde bude hranice mezi metodickou pomocí firmě a situací, kdy už regulátor nemůže radit subjektu, který má následně sám kontrolovat?
Vede někde mezi obecným výkladem pravidel a konkrétním řešením pro konkrétní firmu. Úřad může a má vysvětlovat, jak pravidla chápe. K tomu slouží metodické materiály, odpovědi na časté otázky nebo osvětová činnost. AI Akt navíc počítá s regulačním sandboxem, tedy kontrolovaným prostředím pro testování inovativních systémů pod dohledem. Členské státy jej mají zřídit do 2. srpna 2027.
Co úřad dělat nemůže, je navrhovat firmě její řešení nebo předem potvrzovat, že konkrétní produkt pravidlům vyhovuje. Za soulad odpovídá vždy poskytovatel nebo ten, kdo systém používá. Proto chceme metodickou pomoc stavět tak, aby byla dostupná všem stejně. Výklad, který poskytneme jednomu, by měl být k dispozici i ostatním.
11. Kdybyste měla pojmenovat jednu situaci, ve které dnes český občan používání AI podceňuje, přestože může mít reálný dopad na jeho práva, která by to byla? A jak by měl poznat, že už nejde jen o pohodlný digitální nástroj?
Podle mě v situacích, kdy AI člověka hodnotí nebo třídí, aniž by o tom věděl. Lidé si pod AI často představí chatbota, se kterým si sami povídají. Větší dopad na jejich práva ale může mít systém na druhé straně, který posuzuje jejich žádost, životopis nebo nějaký nárok.
Hranici lze poznat podle toho, jaké reálné dopady takový výstup bude mít. Pokud vám jen pomáhá něco napsat nebo najít, jedná se vlastně o digitální nástroj. Pokud se podle jeho výsledku rozhoduje o vaší práci, penězích nebo přístupu ke službě, je namístě se ptát, kdo rozhodl a na základě čeho. Signálem může být velmi rychlé zamítnutí bez srozumitelného zdůvodnění.