Studenti na TU Braunschweig revolucioniraju objašnjivu umjetnu inteligenciju!

Studenti na TU Braunschweig revolucioniraju objašnjivu umjetnu inteligenciju!

Deep Learning Lab održao se na Tehničkom sveučilištu u Braunschweigu u ljetnom semestru 2025., što je sada osmo izdanje ovog događaja. U tom kontekstu studenti su intenzivno radili na razvoju metoda za objašnjenje modela dubinskog učenja. Središnji cilj bio je učiniti neuronske mreže, koje se često kritizira kao "crne kutije", transparentnijima, posebno u područjima primjene kao što su analiza medicinske slike i autonomna vožnja, gdje je sljedivost odluka ključna. Glasno TU Braunschweig Posebno je ispitana vizualizacija objekata, a jedan od primjera je prepoznavanje autobusa kroz konture, vjetrobransko staklo i prednju ploču.

U kontekstu ove rasprave o objašnjivosti umjetne inteligencije (AI), istraživačko polje “Objašnjiva AI” (XAI) od ključne je važnosti. Fraunhofer IESE ističe da interpretabilnost modela nadilazi njihove etičke implikacije budući da podupire potpuno iskorištavanje potencijala tih tehnologija. Studenti u Deep Learning Labu također su radili na razvoju "karti istaknutosti", koje djeluju kao toplinske karte i ističu relevantna područja slike koja su važna za klasifikaciju. Ova je tehnika osobito relevantna za dijagnosticiranje pogrešaka i promicanje inovativnih pristupa u umjetnoj inteligenciji.

Praktične primjene i uspjesi

Sudionici Deep Learning Laba radili su sa skupom slikovnih podataka PASCAL VOC 2012 i ocjenjivali objašnjenja modela na temelju dva kriterija: sličnosti s ljudskim objašnjenjima i razumljivosti donesenih odluka. Učinkovitost modela također je bila važna, a posebna nagrada, “Environmental Prize”, dodijeljena je za posebno niske računalne zahtjeve.

Pobjednički tim, koji su činili Fabian Kollhoff, Jennifer Ly i Aruhan, osvojio je glavnu nagradu od 600 eura za svoje impresivne rezultate. Daljnja nagrada od 450 eura dodijeljena je Mohammadu Rezaeiju Barzaniju i Nils-Andréu Forjahnu za njihovu nisku potrošnju vremena GPU-a uz zadržavanje visokih performansi. Završni događaj održan je 11. srpnja 2025., gdje su sudionici predstavili svoje rezultate i razmijenili ideje sa sponzorima i stručnjacima. Rasprave o budućnosti objašnjive AI bile su još jedan vrhunac događaja.

Uvid u tehnologiju

Stvaranje mapa istaknutosti zahtijeva duboko razumijevanje temeljnih tehnologija. Ove karte mjere prostornu podršku date klase u slikama i bitan su alat za razumijevanje percepcije konvolucijskih slojeva u računalnom vidu. Glasno srednji Karte istaknutosti ističu ključna područja slike i nude dragocjene uvide u funkcioniranje odabranih modela. Primjer za to je razvoj modela binarne klasifikacije za razlikovanje mačaka i pasa, koji je postigao točnost od 87% zahvaljujući sofisticiranim tehnikama.

Unatoč izazovima svojstvenim razvoju sustava umjetne inteligencije koji se mogu interpretirati, ovi razvoji pokazuju ne samo napredak u tehnologiji, već i jasan put prema etičkoj upotrebi umjetne inteligencije i maksimiziranju njezinih područja primjene. Kreativni pristup studenata ovim problemima ilustrira dinamičan razvoj unutar istraživačkog polja i stalnu potragu za novim, razumljivim pristupima u AI. Sudionici su na dan festivala svojim izlaganjima i raspravama pokazali duboku predanost ovoj uzbudljivoj i perspektivnoj temi.