AI u provedbi zakona: mogućnosti, rizici i pogled na budućnost!

AI u provedbi zakona: mogućnosti, rizici i pogled na budućnost!

Upotreba umjetne inteligencije (AI) u provedbi zakona u središtu je intenzivne rasprave koja se održala 6. i 7. ožujka 2025. i na Sveučilištu Saarland i u Strasbourgu. Ova konferencija okupila je 26 međunarodnih mladih znanstvenika iz područja prava i računalnih znanosti kako bi raspravljali o napretku u tehnologiji umjetne inteligencije i povezanim izazovima privatnosti. Glasno uni-saarland.de Obuhvaćene su različite tehnologije, uključujući VR naočale, prepoznavanje lica, chatove temeljene na umjetnoj inteligenciji i granične kontrole.

Središnji cilj konferencije bio je rasvijetliti mogućnosti i rizike korištenja umjetne inteligencije. Posebna pažnja posvećena je utjecaju na ljudska prava i pravo na pravično suđenje. U pogledu stanja tehnike, raspravljalo se o izazovima koje postavljaju prevoditelji potpomognuti umjetnom inteligencijom, prepoznavanje slika i virtualne rekonstrukcije mjesta zločina. Ove teme naglašavaju složenost integracija umjetne inteligencije u pravnoj industriji.

Različite perspektive i pitanja

Događaj su organizirale Maria Gahn i Yamina Bouadi, uz podršku drugih akademskih velikana kao što su profesor Dominik Brodowski i profesorica Juliette Lelieur. Cilj je bio promicati razmjenu između mladih znanstvenika i praktičara u različitim disciplinama i različitim pravnim sustavima. Među sudionicima su bili stručnjaci iz organizacija kao što su UNESCO, ured javnog tužitelja u Saarbrückenu i Francuska žandarmerija Nationale.

Uz konferenciju, obrađene su važne teme o kojima je već bilo riječi u izvješću BfDI bili liječeni. Izvješće je analiziralo komentare primljene tijekom razdoblja konzultacija između 30. rujna i 17. prosinca 2021. Potrebu za širokom javnom raspravom o upotrebi umjetne inteligencije u provedbi zakona većina sudionika smatrala je ključnom.

Pravni propisi i zaštita podataka

Posebno je izražena zabrinutost zbog pretjerane regulacije. Sudionici su se založili za diferencirani pristup umjetnoj inteligenciji i potrebu za specifičnom zakonskom regulativom, posebice kada je u pitanju automatizirano donošenje odluka. Usklađenost s načelima zaštite podataka istaknuta je kao osnovni uvjet za korištenje umjetne inteligencije. Mnogi su sudionici pozvali na reviziju ovih načela kako bi se osiguralo da zadovoljavaju potrebe novih tehnologija.

Druga ključna točka bila je objašnjivost AI sustava. Rasprave su jasno pokazale da nedovoljno podataka može dovesti do netočnih odluka. Transparentnost u obradi podataka ostaje izazov koji treba riješiti kako bi se povećalo povjerenje u sustave koje pokreće AI. Upotreba umjetne inteligencije za analizu emocija smatra se posebno problematičnom jer bi mogla utjecati na ključno područje privatnog života.

BfDI izvješće zaključuje da su temeljna pitanja o korištenju umjetne inteligencije u provedbi zakona još uvijek otvorena. Jasno je istaknuta potreba za zakonodavstvom koje stvara pravni okvir za korištenje umjetne inteligencije. Nadamo se da će rasprave na konferenciji i rezultati procesa savjetovanja pomoći u promicanju jasne i odgovorne uporabe umjetne inteligencije u provedbi zakona.