Budućnost umjetne inteligencije: mogućnosti i rizici za tvrtke u digitalnom svijetu

Budućnost umjetne inteligencije: mogućnosti i rizici za tvrtke u digitalnom svijetu

Od 3. do 4. lipnja 2025. na Bremenskoj burzi pamuka održat će se simpozij pod nazivom “Od upravljanja platformom do generativne umjetne inteligencije”. Organizator ovog važnog događaja je Centar za medijska, komunikacijska i informacijska istraživanja (ZeMKI) koji postavlja važna pitanja o odnosu tehnologije i moći. Fokus je posebno na izazovima koje donosi generativna umjetna inteligencija kao što je ChatGPT u kombinaciji s platformama društvenih medija. Cilj događaja je okupiti istraživače, poslovne stručnjake i donositelje političkih odluka kako bi raspravili složena pitanja koja okružuju ove tehnologije. Sveučilište u Bremenu također izvještava o javnoj manifestaciji 3. lipnja u 19:30 sati. pod motom “Kritična vremena: moć i politika u upravljanju tehnologijom”. To rade dr. Amélie Heldt, Thomas Poell i Nicolas Suzor, uz uvodnu riječ profesora Michala Kucere. Ulaz je slobodan i prijave nisu potrebne.

Digitalnu sferu sve više oblikuje umjetna inteligencija (AI), koja sa sobom donosi i mogućnosti i značajne izazove. Kako Tech zeitgeist detaljno opisuje, etička dimenzija ovog razvoja postaje sve važnija. Sustavi umjetne inteligencije mogu povećati pristranost i diskriminaciju, zbog čega se tvrtke potiču na implementaciju transparentnih i odgovornih metoda umjetne inteligencije. Ovo je osobito važno u područjima gdje odluke mogu imati dalekosežne učinke na pojedince i skupine.

Dezinformacije u digitalnom dobu

Središnji aspekt rasprave o generativnoj umjetnoj inteligenciji je problem dezinformacija. Glasno IBM Tvrtke se oslanjaju na točne informacije, posebno za poslovne odluke u područjima kao što su upravljanje opskrbnim lancem i marketing proizvoda. Iako generativna umjetna inteligencija može poboljšati donošenje odluka na temelju podataka, ona također predstavlja rizike, uključujući rizik od dezinformacija uzrokovanih netočnim sadržajem generiranim umjetnom inteligencijom. Matt Candy iz IBM-a ističe da ovi sustavi rade prediktivno i stoga su podložni halucinacijama koje se ne temelje na podacima o obuci.

Izazovi pri radu sa sadržajem generiranim umjetnom inteligencijom su različiti. Tvrtke bi trebale poduzeti korake za smanjenje rizika od dezinformacija. To uključuje osiguravanje kvalitete podataka i korištenje Retrieval-Augmented Generation (RAG) za generiranje točnijeg sadržaja. Osim toga, ljudski nadzor je ključan za kontrolu širenja dezinformacija koje generira umjetna inteligencija.

Zaključak: prilike i izazovi

Brzi razvoj AI tehnologija sa sobom donosi i potencijalna i kritična pitanja. Iako mogu revolucionirati mnoge industrije, također zahtijevaju etička, pravna i društvena razmatranja. Nadolazeća konferencija u Bremenu nudi vrijednu platformu za raspravu o ovim temama i razvoj zajedničkih rješenja. S obzirom na složene učinke umjetne inteligencije, interdisciplinarni dijalog ključan je za njezino odgovorno osmišljavanje i sprječavanje zlouporabe.

Za više informacija o događaju i prijavu koja je moguća do 28. svibnja zainteresirani mogu posjetiti web stranicu Sveučilište u Bremenu ili izravno posjetite profesora dr. Kontaktirajte Christiana Katzenbacha e-poštom na katzenbach@uni-bremen.de.