Ориентиран към бъдещето AI: Клъстер на високи постижения с етичен фокус в Дармщат!

Ориентиран към бъдещето AI: Клъстер на високи постижения с етичен фокус в Дармщат!

На 23 май 2025 г. беше представен новият клъстер за върхови постижения „Разумен изкуствен интелект“ (RAI) под ръководството на Техническия университет в Дармщат. Една от целите на клъстера е да разработи ново поколение AI системи, които се характеризират с разумно използване на ресурсите, защита на данните и непрекъснато подобрение. Професор Изабел Валера от университета Саарланд е част от основния екип и следователно допринася значително за стратегията и изследванията на клъстера.

RAI Cluster of Excellence адресира настоящите слабости в настоящите системи за изкуствен интелект, включително липса на умения за логическо мислене и трудности в нови ситуации. Проектите също така са предназначени да преодолеят голямата нужда от адаптиране и обширните изисквания за ресурси на съществуващите AI технологии. Мултидисциплинарни екипи работят в четири ясно дефинирани изследователски области, за да оформят активно ИИ на бъдещето.

Изследователски области на клъстера

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Маркус Рорбах, професор по компютърни науки в TU Darmstadt, подчертава значението на RAI както за бъдещето на AI в Германия, така и по света. Интегрирането на технологични възможности с етични стандарти, ефективност и прозрачност е основна отговорност на клъстера. Кристиан Керстинг, съдиректор на hessian.AI и професор по компютърни науки в TU, благодари за включването на RAI във федералните и щатските стратегии за отлични постижения. Той също така подчертава необходимостта от европейско суверенно ИИ, което да създаде свои собствени стандарти и надеждни технологии.

Етична рамка и международни препоръки

В контекста на етичната употреба на изкуствения интелект ЮНЕСКО издаде основна препоръка, която се фокусира върху правата на човека и основните свободи. Тази международна правна основа, базирана на две години интензивни преговори, предоставя глобална референтна рамка за всички страни, независимо от тяхната форма на управление или икономическа сила.

Препоръката въвежда основни ценности и етични принципи като поверителност, прозрачност и недискриминация. Подчертава се, че ИИ трябва не само да зачита правата на хората, но и да ги насърчава. Централен елемент от препоръката е принципът на предпазните мерки, който гласи, че ако има разумна възможност за отрицателни ефекти, използването на определени приложения с изкуствен интелект не трябва да бъде продължено. Обръща се внимание и на устойчивото използване на AI системи във връзка с опазването на околната среда.

Германската комисия за ЮНЕСКО е активно ангажирана с прилагането на препоръката в Германия чрез предоставяне на информация, съвети и организиране на специализирани събития. Съвместно с експерти се разработват конкретни подходи, включително мерки за равенство между половете и етичното използване на ИИ в изкуството и културата.