Die Bucerius Law School engagiert sich aktiv in den aktuellen Diskussionen über künstliche Intelligenz (KI) und digitale Transformation in der Bildungspolitik der Europäischen Union. Lezel Roddeck, Director of Foreign Language Communication an der Bucerius Law School, hat entscheidend zum Bericht „Explainable Artificial Intelligence (XAI) in Education: Fostering Human Oversight and Shared Responsibility“ beigetragen. Dieser Bericht ist ein Ergebnis der Bemühungen des European Digital Education Hub (EDEH) und der Europäischen Kommission zur Förderung vertrauenswürdiger KI im Bildungsbereich. Bucerius Law School berichtet, dass Roddeck Teil einer Arbeitsgruppe war, die diese Richtlinien erarbeitet hat.
In ihrem Kapitel „Navigating Compliance with the EU AI Act, the GDPR, and Related Digital Laws“ hebt Roddeck hervor, wie Bildungseinrichtungen und Entwickler rechtliche Orientierung im Hinblick auf den EU AI Act und die Datenschutz-Grundverordnung (GDPR) finden können. Der Bericht betont Transparenz, Fairness sowie den Schutz der Rechte von Lernenden als zentrale Prinzipien für die Nutzung von KI im Bildungssektor.
Die europäische Regulierung von KI
Gemäß dem EU AI Act gelten viele KI-Anwendungen im Bildungsbereich als „Hochrisiko-Systeme“. Der AI Act legt unterschiedliche Regeln für Anbieter und Nutzer von KI-Systemen fest, abhängig vom Risikoniveau. Viele dieser Systeme müssen vor ihrer Markteinführung und während ihres gesamten Lebenszyklus bewertet werden. Besonders heikel sind unzulässige Risiken, wie die kognitive Verhaltensmanipulation vulnerabler Gruppen oder die soziale Bewertung von Individuen.
Zusätzlich werden Hochrisiko-KI-Systeme in zwei Kategorien unterteilt: Solche, die in Produkten verwendet werden, die unter die EU-Produktsicherheitsgesetzgebung fallen, und solche, die in spezifischen Bereichen wie Bildung und Gesundheit zuständig sind. Bildungseinrichtungen haben das Recht, Beschwerden über KI-Systeme bei den zuständigen nationalen Behörden einzureichen und müssen sich an die neuesten Transparenzanforderungen halten.
Praktische Ansätze und zukünftige Herausforderungen
Am Community Workshop des EDEH vom 17. bis 18. Oktober 2024 in Brüssel, an dem auch Vertreter der Bucerius Law School teilnahmen, wurden praxisnahe Ansätze zur Umsetzung von Erklärbarkeit in Bildungskontexten erarbeitet. Die Ergebnisse des Workshops zeigten die Entwicklung von Standards für Daten-Erklärbarkeit und KI-Transparenz im Bildungsbereich sowie die Einrichtung regulatorischer „Sandboxes“ zur Erprobung von KI-Anwendungen.
Diese Initiativen sind wichtig, denn der Einsatz von KI im Bildungsbereich könnte Lernen, Lehren und Arbeiten maßgeblich verändern. Aktuell befinden sich viele Anwendungsfälle jedoch noch in der Testphase. Um eine breite Umsetzung zu ermöglichen, sind unter anderem die technische Infrastruktur, notwendige Kompetenzen für Lehrkräfte und eine pädagogische Anpassung der Lerncurricula erforderlich. Deloitte hebt hervor, dass Datenschutz und Ethik zentrale Themen sind, die die zukünftige Bildungslandschaft prägen werden.
Um die Anforderungen des EU AI Act zu erfüllen, sind Bildungseinrichtungen angehalten, Compliance sicherzustellen, KI-Lehrpläne zu integrieren und Pilotprojekte zur praktischen Erprobung von KI-Anwendungen durchzuführen. Gleichzeitig ist die Förderung von KI-Kompetenz bei Lehrkräften und Lernenden entscheidend, um die Digitalisierung im Bildungssektor voranzutreiben.
