In der aktuellen Diskussion um Künstliche Intelligenz (KI) hat Dr. Jonas Botta, Rechtswissenschaftler und Lehrstuhlvertreter an der FernUniversität in Hagen, eine entscheidende Rolle eingenommen. Er wurde als Sachverständiger zum Thema KI und innere Sicherheit vom Landtag NRW beauftragt, um Stellung zu beziehen. Diese Initiative ist Teil der Enquetekommission „Künstliche Intelligenz“, die 2025 ins Leben gerufen wurde, um die Potenziale und Herausforderungen dieser Technologie zu beleuchten. Botta betont, dass KI ein zweischneidiges Werkzeug sein kann, das sowohl zur Förderung des Gemeinwohls als auch zu schädlichen Zwecken eingesetzt werden kann, was die Notwendigkeit einer verantwortungsvollen Gestaltung unterstreicht.FernUniversität in Hagen berichtet, dass …
Ein kritischer Punkt in Bottas Analyse sind die strukturellen Schwächen von KI-Systemen. Er hebt hervor, dass Phänomene wie Halluzinationen und Intransparenz das Grundrecht auf informationsgeleitetes Handeln erheblich gefährden können. Besonders alarmierend ist der Einsatz von KI zur Kriminalitätsbekämpfung, etwa durch Programme wie Gotham von Palantir. Solche Technologien verknüpfen große Datenmengen, jedoch nicht ohne die Gefahr, Informationen über unbeteiligte Dritte zu sammeln. Botta fordert deshalb, dass jegliche polizeilichen Maßnahmen nachvollziehbar und begründbar sein müssen, um das Vertrauen in solche Systeme aufrechtzuerhalten.
Die Rolle von IT-Sicherheit und KI
Die Bedeutung der IT-Sicherheit in Verbindung mit KI kann nicht hoch genug eingeschätzt werden. Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) hat die Technologie in verschiedenen Bereichen wie Textanalyse, Übersetzung und autonomem Fahren Einzug gehalten. Um jedoch einen sicheren Einsatz gewährleisten zu können, arbeitet das BSI an Grundlagenforschung und der Entwicklung von Anforderungen und Prüfkriterien. Dies geschieht in enger Kooperation mit internationalen Standardisierungsgremien und umfasst drei Hauptforschungsbereiche: IT-Sicherheit für KI, Verbesserung der IT-Sicherheit durch KI und neue Bedrohungen durch KI.Das BSI informiert darüber, dass …
Im Kontext der Sicherheit gilt es, Herausforderungen wie Bias in KI-Systemen zu adressieren, die sich negativ auf die Fairness auswirken können. Beispielsweise entwickelt das BSI spezifische Kriterien für den Finanzsektor sowie einen Kriterienkatalog zur Evaluierung der Qualität von Trainingsdaten im gesamten KI-Lebenszyklus. Jährlich veranstaltet das BSI Workshops zur Prüfbarkeit von KI-Systemen, um die Entwicklung sicherer Lösungen zu fördern und Risiken zu minimieren.
Zukunftsaussichten und Bildung
Dr. Botta plädiert zudem für die digitale Souveränität Europas. Er fordert, dass europäische Eigeninnovationen im Bereich KI gezielt unterstützt werden, um von der technologischen Abhängigkeit anderer Länder wegzukommen. Um Fachkräfte optimal auf den Umgang mit KI vorzubereiten, ist eine umfassende Schulung unerlässlich. In diesem Rahmen bietet Botta im Sommersemester 2026 eine kostenfreie Veranstaltungsreihe zu Datenschutzrechtsfällen an, die via Zoom zugänglich ist.
Die Herausforderungen und Chancen, die KI mit sich bringt, stehen somit im Fokus wissenschaftlicher und politischer Debatten. Die Verantwortung liegt dabei sowohl bei den Entwicklern als auch bei den Entscheidungsträgern, um eine Nutzung der Technologie zu gewährleisten, die ethischen Standards gerecht wird und zum Wohle der Gesellschaft beiträgt.