Un studiu internațional cere standarde etice pentru inteligența artificială!

Un studiu internațional cere standarde etice pentru inteligența artificială!

Pe 18 martie 2025, proiectul internațional de cercetare „AI FORA – Artificial Intelligence for Assessment” a fost finalizat la Universitatea Johannes Gutenberg Mainz (JGU). Acest proiect, care a fost finanțat cu aproximativ 1,5 milioane de euro de către Fundația Volkswagen, este dedicat utilizării inteligenței artificiale (AI) pentru distribuirea echitabilă a beneficiilor sociale publice. Într-o perioadă în care progresele tehnologice se accelerează, necesitatea unor sisteme mai echitabile devine din ce în ce mai clară.

Rezultatele proiectului au fost publicate într-o antologie care este accesibilă gratuit online. Aceasta se ocupă în special de distribuirea beneficiilor, cum ar fi pensiile, prestațiile de șomaj, cererile de azil și locurile de grădiniță. Folosind studii de caz din nouă țări de pe patru continente - Germania, Spania, Estonia, Ucraina, SUA, Nigeria, Iran, India și China - cercetătorii arată că criteriile de corectitudine depind în mare măsură de contextele culturale și sociale.

Provocări globale și soluții locale

Analiza arată că, de exemplu, în India sistemul de caste și comportamentul civic în China sunt factori importanți care influențează acordarea de beneficii sociale. Aceste diferențe evidențiază importanța sistemelor AI flexibile și dinamice care se pot adapta la condițiile locale.

O preocupare centrală a proiectului este implicarea tuturor actorilor sociali în dezvoltarea sistemelor IA participative și echitabile. Vocile grupurilor vulnerabile, în special, sunt cruciale pentru a evita discriminarea sistemică și pentru a dezvolta soluții echitabile.

Proiectul de cercetare face parte dintr-un discurs mai larg despre utilizarea etică a IA. Între timp, UNESCO a publicat o recomandare privind utilizarea etică a inteligenței artificiale. Aceasta oferă un cadru global de referință pentru dezvoltarea măsurilor naționale. Drepturile omului și libertățile fundamentale sunt în prim-plan. Sunt incluse și valori fundamentale precum confidențialitatea, transparența și nediscriminarea.

Dimensiunile etice ale IA

Dezvoltarea rapidă a tehnologiilor AI ridică întrebări etice complexe care au consecințe de amploare pentru diferite domenii ale vieții. Cercetările actuale arată că nu este vorba doar de creșterea eficienței, ci și de gestionarea protecției datelor, a pierderii autonomiei și a transparenței deciziilor. Litigiile legate de responsabilitate și răspundere în cazul unor decizii greșite prezintă din ce în ce mai mult provocări juridice și etice.

O altă îngrijorare este riscul de părtinire în sistemele AI, care poate apărea din datele de antrenament părtinitoare. Aceste provocări necesită o abordare interdisciplinară pentru a dezvolta linii directoare etice adecvate. Proceduri precum Evaluarea impactului etic, care evaluează avantajele și dezavantajele sistemelor AI, sunt considerate necesare pentru a se asigura că IA nu este doar respectată, ci și încurajată.

Necesitatea unei instruiri regulate de etică pentru dezvoltatori și încurajarea discuțiilor publice despre IA sunt, de asemenea, recomandări cheie. Cercetarea subliniază importanța transparenței și a capacității de a explica deciziile AI pentru a crește încrederea publicului în aceste tehnologii.

O altă carte bazată pe rezultatele proiectului AI FORA va fi publicată și va prezenta modele și simulări relevante pentru politici. Acesta își propune să propună îmbunătățiri ale sistemelor AI pentru a aborda problemele de echitate și discriminare, o sarcină urgentă în societatea actuală, care se bazează din ce în ce mai mult pe tehnologiile bazate pe AI.

În general, utilizarea etică a inteligenței artificiale nu este doar o provocare, ci și o oportunitate de a modela transformarea digitală în așa fel încât să servească drepturile omului și să sprijine obiectivele de dezvoltare durabilă ale ONU. Evoluțiile în acest domeniu vor fi cruciale pentru viitorul justiției sociale și al integrării tehnologice în viața de zi cu zi.