Zorientowana na przyszłość sztuczna inteligencja: klaster doskonałości z naciskiem etycznym w Darmstadt!

Zorientowana na przyszłość sztuczna inteligencja: klaster doskonałości z naciskiem etycznym w Darmstadt!

W dniu 23 maja 2025 roku zaprezentowano nowy Klaster Doskonałości „Rozsądna Sztuczna Inteligencja” (RAI) pod przewodnictwem Politechniki w Darmstadt. Jednym z celów klastra jest rozwój nowej generacji systemów AI, które charakteryzują się rozsądnym wykorzystaniem zasobów, ochroną danych i ciągłym doskonaleniem. Profesor Isabel Valera z Uniwersytetu Saary jest częścią głównego zespołu i dlatego wnosi znaczący wkład w strategię i badania klastra.

Klaster Doskonałości RAI zajmuje się bieżącymi słabościami obecnych systemów AI, w tym brakiem umiejętności logicznego myślenia i trudnościami w nowych sytuacjach. Projekty mają również na celu przezwyciężenie dużej potrzeby adaptacji i dużych wymagań w zakresie zasobów istniejących technologii sztucznej inteligencji. Multidyscyplinarne zespoły pracują w czterech jasno określonych obszarach badawczych, aby aktywnie kształtować sztuczną inteligencję przyszłości.

Obszary badawcze klastra

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Marcus Rohrbach, profesor informatyki na TU Darmstadt, podkreśla znaczenie RAI zarówno dla przyszłości sztucznej inteligencji w Niemczech, jak i na całym świecie. Integracja możliwości technologicznych ze standardami etycznymi, efektywnością i przejrzystością jest głównym obowiązkiem klastra. Kristian Kersting, współdyrektor hessian.AI i profesor informatyki na Politechnice Wrocławskiej, dziękuje za włączenie RAI do federalnych i stanowych strategii doskonałości. Podkreśla także potrzebę stworzenia przez europejsko-suwerenną sztuczną inteligencję własnych standardów i godnych zaufania technologii.

Ramy etyczne i zalecenia międzynarodowe

W kontekście etycznego wykorzystania sztucznej inteligencji UNESCO wydało podstawowe zalecenie, które skupia się na prawach człowieka i podstawowych wolnościach. Ta międzynarodowa podstawa prawna, oparta na dwóch latach intensywnych negocjacji, zapewnia globalne ramy odniesienia dla wszystkich krajów, niezależnie od ich formy rządów i siły gospodarczej.

Zalecenie wprowadza podstawowe wartości i zasady etyczne, takie jak prywatność, przejrzystość i niedyskryminacja. Podkreśla się, że sztuczna inteligencja powinna nie tylko szanować prawa człowieka, ale także je promować. Centralnym elementem zalecenia jest zasada ostrożności, która stanowi, że jeżeli istnieje uzasadniona możliwość wystąpienia negatywnych skutków, nie należy dalej wykorzystywać niektórych zastosowań sztucznej inteligencji. Poruszono także kwestię zrównoważonego wykorzystania systemów sztucznej inteligencji w powiązaniu z ochroną środowiska.

Niemiecka Komisja ds. UNESCO aktywnie angażuje się we wdrażanie zalecenia w Niemczech, udzielając informacji, doradzając i organizując specjalistyczne wydarzenia. Wspólnie z ekspertami opracowywane są konkretne podejścia, w tym środki na rzecz równości płci i etycznego wykorzystania sztucznej inteligencji w sztuce i kulturze.