Budúcnosť AI: Príležitosti a riziká pre spoločnosti v digitálnom svete

Budúcnosť AI: Príležitosti a riziká pre spoločnosti v digitálnom svete

Od 3. do 4. júna 2025 sa na burze bavlny v Brémach uskutoční sympózium s názvom „From Platform Governance to Generative AI“. Organizátorom tohto významného podujatia je Centrum pre výskum médií, komunikácie a informácií (ZeMKI), ktoré nastoľuje dôležité otázky o vzťahu medzi technológiou a mocou. Dôraz sa kladie najmä na výzvy, ktoré predstavuje generatívna AI, ako je ChatGPT v spojení s platformami sociálnych médií. Cieľom podujatia je spojiť výskumníkov, obchodných expertov a politických činiteľov, aby diskutovali o zložitých problémoch súvisiacich s týmito technológiami. Univerzita v Brémach referuje aj o verejnom podujatí 3. júna o 19:30 hod. pod mottom „Critical Times: Power and Politics in Tech Governance“. Robia to Dr. Amélie Heldt, Thomas Poell a Nicolas Suzor, s úvodom profesor Michal Kučera. Vstup je bezplatný a registrácia nie je potrebná.

Digitálnu sféru čoraz viac formuje umelá inteligencia (AI), ktorá so sebou prináša príležitosti aj významné výzvy. Ako Tech Zeitgeist podrobne opisuje, etický rozmer tohto vývoja je čoraz dôležitejší. Systémy AI môžu zvýšiť zaujatosť a diskrimináciu, a preto sa spoločnostiam odporúča implementovať transparentné a zodpovedné metódy AI. To je obzvlášť dôležité v oblastiach, kde rozhodnutia môžu mať ďalekosiahle účinky na jednotlivcov a skupiny.

Dezinformácie v digitálnom veku

Ústredným aspektom diskusie o generatívnej AI je problém dezinformácií. nahlas IBM Spoločnosti sa spoliehajú na presné informácie, najmä pri obchodných rozhodnutiach v oblastiach, ako je riadenie dodávateľského reťazca a marketing produktov. Aj keď generatívna AI môže zlepšiť rozhodovanie založené na údajoch, predstavuje aj riziká vrátane rizika dezinformácií spôsobených nesprávnym obsahom generovaným AI. Matt Candy z IBM poukazuje na to, že tieto systémy fungujú prediktívne, a preto sú náchylné na halucinácie, ktoré nie sú založené na tréningových údajoch.

Výzvy pri práci s obsahom generovaným AI sú rôznorodé. Spoločnosti by mali podniknúť kroky na zníženie rizika dezinformácií. To zahŕňa zabezpečenie kvality údajov a používanie funkcie Retrieval-Augmented Generation (RAG) na generovanie presnejšieho obsahu. Okrem toho je ľudský dohľad nevyhnutný na kontrolu šírenia dezinformácií generovaných AI.

Záver: príležitosti a výzvy

Rýchly vývoj technológií AI so sebou prináša potenciálne aj kritické otázky. Hoci môžu spôsobiť revolúciu v mnohých odvetviach, vyžadujú si aj etické, právne a sociálne hľadiská. Nadchádzajúca konferencia v Brémach ponúka cennú platformu na diskusiu o týchto témach a vývoj spoločných riešení. Vzhľadom na komplexné účinky AI je interdisciplinárny dialóg nevyhnutný na to, aby bola navrhnutá zodpovedne a aby sa zabránilo zneužitiu.

Ďalšie informácie o podujatí a prihlásenie, ktoré je možné do 28. mája, môžu záujemcovia navštíviť na webovej stránke Univerzita v Brémach alebo navštívte priamo profesora Dr. Kontaktujte Christiana Katzenbacha e-mailom na katzenbach@uni-bremen.de.