Budoucnost AI: Příležitosti a rizika pro společnosti v digitálním světě

Budoucnost AI: Příležitosti a rizika pro společnosti v digitálním světě

Od 3. do 4. června 2025 se na burze bavlny v Brémách bude konat sympozium s názvem „From Platform Governance to Generative AI“. Organizátorem této významné akce je Centrum pro výzkum médií, komunikace a informací (ZeMKI), které nastoluje důležité otázky týkající se vztahu technologií a moci. Důraz je kladen zejména na výzvy, které představuje generativní AI, jako je ChatGPT ve spojení s platformami sociálních médií. Cílem akce je spojit výzkumné pracovníky, obchodní experty a politické činitele, aby diskutovali o složitých otázkách spojených s těmito technologiemi. Univerzita v Brémách také hlásí o veřejné akci 3. června v 19:30. pod heslem „Critical Times: Power and Politics in Tech Governance“. To provedou Dr. Amélie Heldt, Thomas Poell a Nicolas Suzor, s úvodem profesor Michal Kučera. Vstup je zdarma a registrace není nutná.

Digitální sféru stále více utváří umělá inteligence (AI), která s sebou přináší příležitosti i významné výzvy. Jak Tech Zeitgeist podrobně popisuje, etický rozměr tohoto vývoje je stále důležitější. Systémy umělé inteligence mohou zvýšit zaujatost a diskriminaci, a proto se společnostem doporučuje zavádět transparentní a odpovědné metody umělé inteligence. To je zvláště důležité v oblastech, kde mohou mít rozhodnutí dalekosáhlé dopady na jednotlivce a skupiny.

Dezinformace v digitálním věku

Ústředním aspektem debaty o generativní umělé inteligenci je problém dezinformací. Hlasitý IBM Společnosti spoléhají na přesné informace, zejména při obchodních rozhodnutích v oblastech, jako je řízení dodavatelského řetězce a marketing produktů. Generativní umělá inteligence sice může zlepšit rozhodování na základě dat, ale také představuje rizika, včetně rizika dezinformací způsobených nesprávným obsahem generovaným umělou inteligencí. Matt Candy z IBM poukazuje na to, že tyto systémy fungují prediktivně, a proto jsou náchylné k halucinacím, které nejsou založeny na trénovacích datech.

Výzvy při práci s obsahem generovaným umělou inteligencí jsou různé. Společnosti by měly podniknout kroky ke snížení rizika dezinformací. To zahrnuje zajištění kvality dat a použití funkce Retrieval-Augmented Generation (RAG) pro generování přesnějšího obsahu. Pro kontrolu šíření dezinformací generovaných umělou inteligencí je navíc nezbytný lidský dohled.

Závěr: příležitosti a výzvy

Rychlý vývoj technologií umělé inteligence s sebou přináší potenciální i kritické otázky. I když mohou způsobit revoluci v mnoha průmyslových odvětvích, vyžadují také etické, právní a sociální ohledy. Nadcházející konference v Brémách nabízí cennou platformu k diskusi o těchto tématech a vývoji společných řešení. Vzhledem ke komplexním účinkům umělé inteligence je nezbytný mezioborový dialog, abychom ji navrhli zodpovědně a zabránili jejímu zneužití.

Pro další informace o akci a pro přihlášení, které je možné do 28. května, mohou zájemci navštívit webové stránky Univerzita v Brémách nebo navštivte přímo profesora Dr. Kontaktujte Christiana Katzenbacha e-mailem na katzenbach@uni-bremen.de.