Již brzy vstoupí v platnost nový zákon EU o umělé inteligenci, který zakazuje systémy umělé inteligence s nepřijatelným rizikem.
V březnu loňského roku schválil Evropský parlament první zákon, který má na starosti regulaci umělé inteligence, a tento týden vstoupí v platnost nový zákon EU o umělé inteligenci s jasným cílem: podpořit inovace a zároveň zaručit bezpečnost a dodržování základních práv jednotlivců.
Jedním z nejdůležitějších opatření, která tento nový zákon EU o umělé inteligenci prosazuje, jsou bezpochyby úrovně rizik, které musí každá umělá inteligence splňovat, aby mohla působit na evropském kontinentu. Pokud tedy UI tyto požadavky nesplňuje, bude v EU zakázána.
Tyto činnosti jsou pro systém UI ze strany EU nepřijatelné
Nový zákon EU o umělé inteligenci stanovil čtyři úrovně rizika, které budou sloužit k určení, které UI budou v EU přijatelné a které nikoli:
- Minimální riziko: UI, které nepodléhají dohledu, například filtry spamu.
- Omezené riziko: systémy umělé inteligence, které budou podléhat lehkému dohledu, jako jsou chatboti pro obsluhu zákazníků.
- Vysoké riziko: systémy AI, které budou přísně kontrolovány, např. systémy doporučující zdravotní péči.
- Nepřijatelné riziko: Systémy AI, které budou zcela zakázány, pokud se zapojí do některé ze zakázaných praktik AI uvedených v článku 5 nového zákona EU o AI.
V tomto ohledu jsou některé z nepřijatelných systémů UI pro Evropskou unii následující:
- UI, která se používá k sociálnímu skórování, například k vytváření rizikových profilů na základě chování osob.
- UI, která podprahově nebo klamavě manipuluje s rozhodnutími člověka.
- UI, která využívá zranitelnosti osob, jako je věk, zdravotní postižení nebo socioekonomický status.
- UI, která využívá biometrické údaje ke zjištění charakteristik osoby, jako je sexuální orientace.
- UI, která shromažďuje biometrické údaje „v reálném čase“ na veřejných místech.
- UI, která na základě vzhledu klasifikuje lidi jako potenciální zločince.
- UI, která se pokouší odvodit emoce lidí v práci nebo ve škole.
- UI, která vytváří nebo rozšiřuje databáze rozpoznávání obličejů pomocí snímků z bezpečnostních kamer nebo snímků z internetu.
Toto nové evropské nařízení o umělé inteligenci stanoví, že všem společnostem používajícím systémy umělé inteligence, které se zapojí do těchto činností, budou bez ohledu na jejich sídlo uloženy vysoké pokuty až do výše 35 milionů eur (přibližně 884 milionů korun) nebo až do výše 7 % jejich ročních příjmů v předchozím daňovém roce, podle toho, která částka je vyšší.