Pagrindinis dėmesys skiriamas AI rizikai: seminare Bylefelde akcentuojamos saugumo temos!

Pagrindinis dėmesys skiriamas AI rizikai: seminare Bylefelde akcentuojamos saugumo temos!

Kitą savaitę Bylefeldo universiteto Tarpdisciplininių tyrimų centre (ZiF) vyks svarbus seminaras apie dirbtinį intelektą (AI). Rugsėjo 24–26 dienomis įvairių sričių ekspertai susirinks aptarti AI rizikos ir saugumo aspektų. Dr. Alexander Koch, žinomas kriptografijos ekspertas ir IT saugumo konsultantas, vadovauja mainams kartu su Dr. Benjamin Paaßen ir Elizabeth Herbert. Seminaro tikslas – praktiškai apžvelgti iššūkius, susijusius su šiuolaikinėmis dirbtinio intelekto sistemomis, pavyzdžiui, nesąžiningus sprendimus ar painų AI sukurtą turinį.

Seminare susirenka 15 tyrėjų iš aštuonių šalių iš tokių sričių kaip mašininis mokymasis, neuromokslai, politikos mokslai ir etika. Kartu jie nori sukurti išsamų AI rizikos kraštovaizdžio žemėlapį. Tai turėtų ne tik nustatyti svarbius pavojus, bet ir parodyti galimas rizikos mažinimo priemones. Tikslas – padėti asmenims ir institucijoms priimti pagrįstus sprendimus dėl AI saugumo. Dr. Koch ir Dr. Paaßen yra „Young ZiF“ tinklo, kuris nuo 2002 m. skatina tarpdisciplininius mainus mokslinių tyrimų srityje, stipendininkai.

Dirbtinis intelektas kasdieniame gyvenime

AI pramonė pastaraisiais metais padarė sparčią pažangą, ypač per tokius pokyčius kaip ChatGPT programinė įranga. Įmonės vis labiau pasikliauja AI palaikomais pokalbių robotais, galinčiais bendrauti natūralia kalba. Šios sistemos ne tik atlieka pagrindinį vaidmenį užtikrinant IT saugumą, greičiau aptinkant ir užkertant kelią grėsmėms, bet ir naudojamos kuriant saugumą. Ten jie padeda sumažinti įsilaužimų ir kitų pavojų, pvz., gaisro, pavojų.

Tačiau dirbtinio intelekto naudojimas taip pat kelia pavojų. Klaidingi pavojaus signalai gali sukelti stresą, o įmonių saugumo srityje dirbtinio intelekto sistemos gali būti prastai įdiegtos, o tai gali sukelti finansinių nuostolių ar teisinių problemų. Jame pabrėžiama, kad norint sumažinti dirbtinio intelekto riziką, būtinos patikimos saugumo priemonės ir reguliarūs auditai. Algoritmų skaidrumas yra labai svarbus, nes dirbtinio intelekto sistemų sprendimai turi būti suprantami.

Saugos ir etikos sumetimai

Diskusija apie AI yra ne tik techninė, bet ir etinė. AI sistemų rezultatai labai priklauso nuo naudojamų duomenų ir jų dizaino. Duomenų iškraipymai gali turėti nenumatytų, bet rimtų pasekmių, pvz., diskriminacinių sprendimų samdant ar skolinant. Taikant tokius metodus kaip vadinamasis „matematinis plovimas“, AI gali atrodyti pagrįsta faktais, net jei jis yra ydingas arba šališkas.

Taip pat negalima ignoruoti susirūpinimo dėl duomenų apsaugos ir privatumo. Tokios technologijos kaip veido atpažinimas ar internetinis stebėjimas gali kelti pavojų pilietinėms teisėms. Todėl naujajame AI įstatyme reikalaujama išsamių ir tikslių duomenų rinkinių, skirtų dirbtinio intelekto sistemoms mokyti, ir reglamentuoja tam tikrų programų, kurios gali būti kenksmingos, naudojimą.

Šiuo metu, kai savarankiški sprendimai per AI vis dažniau patenka į kasdienį gyvenimą, labai svarbu, kad visuomenė ir įmonės suinteresuotosios šalys būtų informuotos apie AI sistemų galimybes ir riziką. Ekspertai itin pabrėžia atsakingo naudojimo ir reguliavimo svarbą. Tai vienintelis būdas užtikrinti, kad dirbtinio intelekto pokyčiai tarnautų visuomenės gerovei ir netaptų nekontroliuojamomis grėsmėmis.

Todėl norint skatinti informuotą ir atsakingą technologijų naudojimą, būtinas visapusiškas AI kraštovaizdžio ir jo rizikos supratimas. Būsimas seminaras ZiF bus dar vienas žingsnis šia kryptimi. Siekdamas rasti praktinių sprendimų, jis iškels tiek saugumo, tiek etikos problemas dirbtinio intelekto srityje.

Bylefeldo universitetas praneša, kad seminaras yra esminis forumas keistis DI saugumo klausimais. Gerhardas Linkas pabrėžia saugumo mechanizmų svarbą Europos Parlamentas išanalizavo etines AI dimensijas.