Umělá inteligence zasahuje do práva, ale ne vždy v dobrém. Soudy po celém světě řeší případy falešných citací v právních dokumentech, přičemž právníci opakovaně používají tytéž výmluvy – a soudci jim to přestávají tolerovat.
Vzestup umělé inteligence vedl k tomu, že využívání nástrojů založených na umělé inteligenci ovlivnilo i jiné oblasti než jen technologický sektor. Příkladem je právo a advokacie, protože se množí stále více příběhů souvisejících například se zneužitím AI při soudním procesu. Překvapivě 23 případů souvisejících s touto situací ukazuje, že existuje 15 výmluv, které zúčastněné strany často opakují.
V posledních měsících se soudy potýkají s „epidemií“ falešných citací generovaných umělou inteligencí, ale jen velmi málo odborníků svou chybu přizná. Od roku 2023 je tak nejčastější výmluvou „nevěděl jsem, že byla použita umělá inteligence“, což je výmluva, která zbavuje viny tím, že činí odpovědnými asistenty, jiné odborníky nebo samotné klienty. Jak se dalo očekávat, soudci ji nepovažují za příliš důvěryhodnou a udělují přísnější sankce, ale není jediná, která se neustále opakuje:
- „Nevěděl jsem, že jsem použil umělou inteligenci.“
- „Spletl jsem si AI přehledy Googlu s normálními výsledky vyhledávání.“
- „Byla to chyba podřízeného.“
- „Byla to chyba klienta, pomohl mi napsat návrh.“
- „Nevěděl jsem, že chatboti umí vymýšlet citáty.“
- „Požádal jsem ChatGPT pouze o to, aby text udělal přesvědčivější, nečekal jsem, že bude přidávat nové citáty.“
- „Dokument jsem prohnal přes jiné umělé inteligence, aby zkontrolovaly, zda v něm nejsou chyby, takže jsem ho nakonec sám nečetl.“
- „Byl jsem hacknut/měl jsem v počítači malware a ten soubor změnil.“
- „Omylem jsem poslal koncept místo konečné verze.“
- „Ztratil jsem přístup/měl jsem problémy s přihlášením, takže jsem se uchýlil k AI.“
- „Měl jsem příliš málo času a příliš velký tlak.“
- „Přepínání oken/programů na notebooku je zdlouhavé, takže jsem použil doplněk Wordu, který se objevil po ruce.“
- „Na vině byly funkce AI.“
- „Neměl jsem k dispozici své obvyklé výzkumné nástroje a nechal jsem se zlákat AI.“
- „Neměl bych tomu věnovat tolik hodin, AI kontroluje schůzky rychleji.“
AI není regulérní
Podle soudců zapojených do těchto případů je nejpraktičtější okamžitě rozpoznat používání AI a být pokorný, v tomto okamžiku by měli zahájit nápravné školení a zároveň informovat profesní orgány. Pokud tak učiní, může to snížit pokuty a disciplinární opatření, ale právníci se raději vymlouvají, než aby uznali svou vinu. Proto chodí kolem horké kaše a odvolávají se na hacky, malware nebo instalaci zásuvných modulů, které zúčastněné nepřesvědčí.
Pokuty se zpravidla pohybují kolem 1 000 eur (asi 25 000 korun), ale objevují se i vyšší tresty a nepeněžní opatření, jako je povinné školení nebo postoupení případu etické komisi. Pokud je však vina uznána a je zaujat pokorný postoj, bývají soudci shovívavější a volí pokuty ve výši 150 eur (asi 3 750 Kč) a dvouhodinové kurzy zaměřené na etické používání nástrojů umělé inteligence.
Zdá se tedy, že postoj, který je třeba zaujmout, je zřejmý: pokud při své práci používáte umělou inteligenci, měli byste tak v ideálním případě činit kontrolovaně, jinak se můžete stát obětí halucinací umělé inteligence. Pro soudce je vlastně ideální, když uznáte svou vinu a nevymlouváte se, zejména v případech, které se týkají falešných citací. Jejich ověření tedy spočívá na podepisující osobě, nikoli na asistentech, klientech nebo komukoliv jiném, kdo se na nich podílí.
Dopad umělé inteligence v oblasti práva
Využití umělé inteligence v právní oblasti s sebou přineslo nejen problémy s falešnými citacemi, ale vyvolalo také debatu o etice a profesní odpovědnosti. Podle zprávy Americké advokátní komory může být umělá inteligence mocným nástrojem pro zvýšení efektivity a přesnosti v právní praxi, ale při nesprávném používání představuje také značná rizika. Právníci si musí být vědomi omezení těchto technologií a musí být připraveni převzít odpovědnost za případné chyby, které mohou vzniknout.
Kromě toho umělá inteligence mění způsob, jakým se provádí právní výzkum. Nástroje jako ROSS Intelligence a Lex Machina využívají AI k analýze velkých objemů právních dat a poskytují právníkům cenné informace. Je však nezbytné, aby právníci pochopili, že tyto nástroje jsou doplňkem, nikoliv náhradou lidského úsudku a odborných znalostí.
V neposlední řadě je nezbytné vzdělávání a průběžné školení v oblasti používání umělé inteligence, aby právníci mohli tyto technologie plně využívat, aniž by byla ohrožena integrita jejich práce. Právnické fakulty začínají do svých studijních programů zařazovat kurzy o umělé inteligenci a právu a připravují tak novou generaci právníků na budoucnost, v níž se technologie a právo budou stále více prolínat.