Pasitikėkite AI: taip dirbtinis intelektas tampa suprantamas ir saugus!

Pasitikėkite AI: taip dirbtinis intelektas tampa suprantamas ir saugus!

Dirbtinis intelektas (AI) dabar rado kelią į daugelį gyvenimo sričių, nesvarbu, ar tai būtų kalbos pagalbininkai, ar sprendimų priėmimo sistemos. Tačiau, nepaisant plačiai paplitusio naudojimo, šių sistemų sprendimų priėmimo procesus dažnai sunku suprasti. Paderborno ir Bylefeldo universitetų Bendradarbiavimo tyrimų centras/Transregio (TRR) 318 „Paaiškinamumo kūrimas“ skirtas intensyviems tyrimo klausimams, siekiant, kad paaiškinimo procesai būtų suprantamesni vartotojams. Visų pirma, TRR 318 sintezės grupė „Supratimas“ užduoda pagrindinį klausimą, kokios informacijos reikia vartotojams, kad jie geriau suprastų AI sprendimus ( uni-paderborn.de ).

Prof. daktaras Heike M. Buhl iš Paderborno universiteto pabrėžia, kad tokių paaiškinimų tikslas – suteikti žmonėms aiškų supratimą. Tai apima skirtumą tarp konceptualių žinių, kurios reiškia tik informacijos žinojimą, ir agentūros, kuri yra žinios, kaip šias žinias pritaikyti praktiškai. Tyrime taip pat nagrinėjama paviršutiniško ir gilaus supratimo dinamika, kuri labai priklauso nuo ankstesnių vartotojų žinių ir susidomėjimo ( uni-paderborn.de ).

Paaiškinamumo poreikis

Paaiškinamo dirbtinio intelekto (XAI) sąvoka tampa vis svarbesnė. XAI apima procedūras ir metodus, kurie leidžia vartotojams suprasti mašininio mokymosi algoritmų rezultatus ir padidinti jų pasitikėjimą šiomis sistemomis. Daugeliu atvejų dirbtinio intelekto modeliai laikomi „juodosiomis dėžėmis“, kurių sprendimų priėmimo procesai dažnai yra neskaidrūs net kūrėjams. Todėl labai svarbu, kad įmonės suprastų ir nuolat stebėtų savo AI sistemų sprendimų priėmimo procesus, kad išvengtų šališkumo ir veiklos nukrypimų. XAI taip pat skatina apibūdinti tikslumą, sąžiningumą ir skaidrumą, kuris yra būtinas atsakingam įgyvendinimui ( ibm.com ).

Paaiškinamumo privalumai yra daug. Tai apima sistemos funkcionalumo užtikrinimą, teisinių reikalavimų laikymąsi ir galimybę apskųsti sprendimus. Svarbūs paaiškinamo AI metodai apima sprendimų atsekamumą ir prognozavimo tikslumo gerinimą. Tokie metodai kaip vietiniai interpretuojami modeliai-agnostiniai paaiškinimai (LIME) ir DeepLIFT naudojami neuronų aktyvacijai analizuoti ir taip padėti geriau suprasti AI sprendimus ( ibm.com ).

Pasitikėkite AI sistemomis

Ne mažiau svarbus diskusijos apie AI aspektas yra pasitikėjimas šiomis technologijomis. Vokietijos dirbtinio intelekto tyrimų centras (DFKI) šiuo metu rengia intelektualių sistemų testavimo ir sertifikavimo metodus. Siekiama suderinti technologinį meistriškumą su socialine atsakomybe. Tai ypač svarbu saugumui svarbiose srityse, tokiose kaip sveikatos priežiūra ar finansai, kur skaidrumas yra kertinis pasitikėjimo akmuo ( dfki.de ).

DFKI kuria testavimo kriterijus ir sertifikavimo procedūras, kuriomis siekiama užtikrinti patikimus AI modelius. Tokios iniciatyvos kaip MISSION AI, kuri skatina patikimų sistemų stiprinimą taikant efektyvius audito standartus, papildo šias pastangas. Be to, CERTAIN reklamuoja dirbtinio intelekto sistemų patvirtinimo ir sertifikavimo standartus Europoje. Šie pokyčiai būtini, kad įmonės ir institucijos galėtų įdiegti patikimas technologijas ir galiausiai padidinti AI pripažinimą ( dfki.de ).

Apskritai akivaizdu, kad nuolatiniam patikimo dirbtinio intelekto kūrimo procesui reikia ir mokslinės kompetencijos, ir socialinės atsakomybės. Europa turi galimybę tapti pasauline lydere, turėdama į žmogų orientuotą požiūrį į dirbtinio intelekto vystymą. Aktyvus dalyvavimas kuriant šias technologijas būtinas, norint įveikti ateities iššūkius ir pelnyti vartotojų pasitikėjimą.