Estudo internacional pede padrões éticos para inteligência artificial!

Estudo internacional pede padrões éticos para inteligência artificial!

Em 18 de março de 2025, o projeto de pesquisa internacional “AI FORA – Inteligência Artificial para Avaliação” foi concluído na Universidade Johannes Gutenberg Mainz (JGU). Este projeto, financiado com cerca de 1,5 milhões de euros pela Fundação Volkswagen, dedica-se à utilização da inteligência artificial (IA) para a distribuição justa de benefícios sociais públicos. Numa altura em que os avanços tecnológicos estão a acelerar, a necessidade de sistemas mais justos torna-se cada vez mais clara.

Os resultados do projeto foram publicados em uma antologia de livre acesso online. Trata-se, em particular, da distribuição de benefícios como pensões, subsídios de desemprego, pedidos de asilo e vagas em jardins de infância. Utilizando estudos de caso de nove países em quatro continentes – Alemanha, Espanha, Estónia, Ucrânia, EUA, Nigéria, Irão, Índia e China – os investigadores mostram que os critérios de justiça dependem fortemente dos contextos culturais e sociais.

Desafios globais e soluções locais

A análise deixa claro que, por exemplo, na Índia o sistema de castas e na China o comportamento cívico são factores significativos que influenciam a concessão de benefícios sociais. Estas diferenças realçam a importância de sistemas de IA flexíveis e dinâmicos que possam adaptar-se às condições locais.

Uma preocupação central do projeto é o envolvimento de todos os atores sociais no desenvolvimento de sistemas de IA participativos e justos. As vozes dos grupos vulneráveis, em particular, são cruciais para evitar a discriminação sistémica e desenvolver soluções justas.

O projeto de pesquisa faz parte de um discurso mais amplo sobre o uso ético da IA. Entretanto, a UNESCO publicou uma recomendação sobre o uso ético da inteligência artificial. Isto proporciona um quadro de referência global para o desenvolvimento de medidas nacionais. Os direitos humanos e as liberdades fundamentais estão na vanguarda. Valores fundamentais como privacidade, transparência e não discriminação também estão incluídos.

Dimensões éticas da IA

O rápido desenvolvimento das tecnologias de IA levanta questões éticas complexas que têm consequências de longo alcance em diversas áreas da vida. A investigação atual mostra que não se trata apenas de aumentar a eficiência, mas também de lidar com a proteção de dados, a perda de autonomia e a transparência das decisões. As disputas sobre responsabilidade e responsabilidade em caso de decisões erradas apresentam cada vez mais desafios jurídicos e éticos.

Outra preocupação é o risco de parcialidade nos sistemas de IA, que pode surgir de dados de treino tendenciosos. Esses desafios exigem uma abordagem interdisciplinar para desenvolver diretrizes éticas apropriadas. Procedimentos como a avaliação de impacto ético, que avalia as vantagens e desvantagens dos sistemas de IA, são considerados necessários para garantir que a IA não só seja respeitada, mas também incentivada.

A necessidade de formação ética regular para os programadores e de incentivo a discussões públicas sobre IA também são recomendações importantes. A investigação destaca a importância da transparência e da capacidade de explicar as decisões da IA ​​para aumentar a confiança do público nestas tecnologias.

Outro livro baseado nos resultados do projeto AI FORA será publicado e apresentará modelos e simulações relevantes para políticas. O objetivo é propor melhorias nos sistemas de IA para abordar questões de equidade e discriminação, uma tarefa urgente na sociedade atual, que depende cada vez mais de tecnologias alimentadas por IA.

Globalmente, a utilização ética da IA ​​não é apenas um desafio, mas também uma oportunidade para moldar a transformação digital de uma forma que sirva os direitos humanos e apoie os objectivos de desenvolvimento sustentável da ONU. Os desenvolvimentos nesta área serão cruciais para o futuro da justiça social e da integração tecnológica na vida quotidiana.