Revoluce v soudnictví: Jak umělá inteligence mění náš ústavní stát!

Revoluce v soudnictví: Jak umělá inteligence mění náš ústavní stát!

8. října 2025 budou výzvy a příležitosti digitalizace středem diskusí v justici. Transformaci řízenou elektronickými soubory a procesy automatizované analýzy již nelze zastavit. Eric Witte, akademický pracovník ZfRV, zdůrazňuje ústřední význam strategických úvah pro legálně vyhovující implementaci umělé inteligence (AI) ve společnostech a soudnictví. Cílem musí být zaručení základních práv, ochrany údajů a spravedlnosti, a tím posílení důvěry v automatizované rozhodovací procesy. [b-tu.de] uvádí, že členské státy EU musí do srpna 2026 implementovat zákon o AI, který má učinit používání AI bezpečnější.

Zákon o AI kategorizuje aplikace podle jejich rizikového potenciálu a ukládá přísné požadavky na zvláště vysoce rizikové systémy. Pozoruhodným příkladem problémů, které může AI způsobit v justici, je systém COMPAS v USA. To se používá k hodnocení rizik v systému trestního soudnictví, a ačkoli to může urychlit procesy, přináší potenciální rizika, jako je diskriminace a nedostatek transparentnosti. Podle Witteho je použití COMPAS v Německu považováno za nepřípustné, protože je v rozporu se zjištěními justičního výzkumu.

Role lidí v justici

Lidé a jejich spravedlnost by měli tvořit ústřední princip právního státu, včetně snahy o spravedlivé výsledky a transparentní rozhodovací procesy. Bezpráví, varoval Witte, ohrožuje důvěru obyvatel v instituce a v samotný ústavní stát. Prostor pro takto důležité diskuse mají poskytnout Cottbus Media Law Days, které jsou součástí magisterského studijního programu „Obchodní právo pro technologické společnosti (M.B.L.)“ na VUT Cottbus-Senftenberg. Toto studium je zaměřeno speciálně na průmyslové inženýry, právníky a humanitní vědce se zkušenostmi s poradenstvím nebo řešením právních problémů v technologických společnostech.

Paralelně s vývojem v Německu bude 17. května 2024 přijata Úmluva Rady Evropy o umělé inteligenci, která představuje další významný krok v regulaci umělé inteligence. dr-datenschutz.de zdůrazňuje, že cílem této úmluvy je zajistit, aby systémy umělé inteligence byly slučitelné s lidskými právy, demokracií a právním státem. Tento soubor pravidel je výsledkem spolupráce mezi 46 členskými státy a dalšími zúčastněnými stranami a daleko přesahuje vnitrostátní předpisy.

Výzvy a výjimky

Zatímco Úmluva AI ​​postuluje důležité normy, občanská společnost kritizuje, že výjimky – zejména s ohledem na zájmy národní bezpečnosti a výzkumné a vývojové aktivity – by mohly ohrozit ochranu lidských práv a demokratických principů. Evropský inspektor ochrany údajů rovněž vyjadřuje obavy ohledně obecných ustanovení a nedostatku konkrétních zákazů pro některé aplikace umělé inteligence.

V této souvislosti vytvořila německá spolková vláda přijetím zákona o AI dne 21. května 2024 důležitý právní rámec pro podporu důvěry v technologie AI a podporu inovací v Evropě. [bundesregierung.de] vysvětluje, že zákon o AI je v EU považován za první komplexní soubor pravidel pro AI na světě a řídí se přístupem založeným na riziku. Vyšší rizika vyžadují přísnější požadavky, pokud jde o ochranu základních práv a zajištění transparentnosti aplikací umělé inteligence.

Další kroky jsou zásadní: členské státy EU jsou povinny implementovat zákon o AI do vnitrostátního práva. Německo si stanovilo za cíl působit jako vedoucí místo pro technologie AI zřízením servisních center AI, zejména pro malé a střední společnosti. To nejen posílí ekonomickou situaci, ale také optimalizuje právní rámec, aby bylo používání umělé inteligence v právním kontextu spravedlivé.