Revolúcia v súdnictve: Ako AI mení náš ústavný štát!

Revolúcia v súdnictve: Ako AI mení náš ústavný štát!

Výzvy a príležitosti digitalizácie budú 8. októbra 2025 stredobodom diskusií v súdnictve. Transformáciu riadenú elektronickými súbormi a procesmi automatizovanej analýzy už nemožno zastaviť. Eric Witte, akademický zamestnanec ZfRV, zdôrazňuje ústredný význam strategických úvah pre implementáciu umelej inteligencie (AI) v spoločnostiach a súdnictve v súlade so zákonom. Cieľom musí byť zaručiť základné práva, ochranu údajov a spravodlivosť, a tým posilniť dôveru v automatizované rozhodovacie procesy. [b-tu.de] uvádza, že členské štáty EÚ musia do augusta 2026 implementovať zákon o AI, ktorý má zvýšiť bezpečnosť používania AI.

Zákon o AI kategorizuje aplikácie podľa ich rizikového potenciálu a ukladá prísne požiadavky na obzvlášť vysokorizikové systémy. Pozoruhodným príkladom problémov, ktoré môže AI spôsobiť v justičnom sektore, je systém COMPAS v USA. Používa sa na hodnotenie rizika v systéme trestného súdnictva a hoci to môže urýchliť procesy, nesie so sebou potenciálne riziká, ako je diskriminácia a nedostatok transparentnosti. Podľa Witteho je používanie COMPAS v Nemecku považované za neprípustné, pretože je v rozpore so zisteniami justičného výskumu.

Úloha ľudí v justičnom systéme

Ľudia a ich spravodlivosť by mali tvoriť ústredný princíp právneho štátu vrátane snahy o spravodlivé výsledky a transparentné rozhodovacie procesy. Nespravodlivosti, varoval Witte, ohrozujú dôveru obyvateľstva v inštitúcie a v samotný ústavný štát. Priestor pre takéto dôležité diskusie majú poskytnúť Cottbus Media Law Days, ktoré sú súčasťou magisterského študijného programu „Obchodné právo pre technologické spoločnosti (M.B.L.)“ na BTU Cottbus-Senftenberg. Tento študijný program je špeciálne zameraný na priemyselných inžinierov, právnikov a humanitných vedcov so skúsenosťami s poradenstvom alebo riešením právnych problémov v technologických spoločnostiach.

Paralelne s vývojom v Nemecku bude 17. mája 2024 prijatý Dohovor Rady Európy o AI, ktorý predstavuje ďalší významný krok v regulácii AI. dr-datenschutz.de zdôrazňuje, že cieľom tohto dohovoru je zabezpečiť, aby systémy umelej inteligencie boli zlučiteľné s ľudskými právami, demokraciou a právnym štátom. Tento súbor pravidiel je výsledkom spolupráce medzi 46 členskými štátmi a inými zainteresovanými stranami a ďaleko presahuje vnútroštátne predpisy.

Výzvy a výnimky

Zatiaľ čo Dohovor AI predpokladá dôležité normy, občianska spoločnosť kritizuje, že výnimky – najmä pokiaľ ide o záujmy národnej bezpečnosti a výskumné a vývojové aktivity – by mohli ohroziť ochranu ľudských práv a demokratických princípov. Európsky dozorný úradník pre ochranu údajov tiež vyjadruje obavy v súvislosti so všeobecnými ustanoveniami a nedostatkom konkrétnych zákazov pre určité aplikácie umelej inteligencie.

V tejto súvislosti vytvorila nemecká spolková vláda prijatím zákona o AI 21. mája 2024 dôležitý právny rámec na podporu dôvery v technológie AI a podporu inovácií v Európe. [bundesregierung.de] vysvetľuje, že zákon o AI sa považuje za prvý komplexný súbor pravidiel pre AI na svete v EÚ a riadi sa prístupom založeným na riziku. Vyššie riziká si vyžadujú prísnejšie požiadavky, pokiaľ ide o ochranu základných práv a zabezpečenie transparentnosti aplikácií AI.

Ďalšie kroky sú kľúčové: členské štáty EÚ sú povinné implementovať zákon o AI do vnútroštátneho práva. Nemecko si stanovilo za cieľ pôsobiť ako popredné miesto pre technológie AI zriadením servisných centier AI, najmä pre malé a stredné spoločnosti. Tým sa nielen posilní hospodárska situácia, ale aj optimalizuje sa právny rámec tak, aby bolo používanie umelej inteligencie v právnom kontexte spravodlivé.