Dr. Jonas Botta, Rechtswissenschaftler und Lehrstuhlvertreter an der FernUniversität in Hagen, hat eine Schlüsselrolle im Beratungsprozess des Landtags Nordrhein-Westfalen übernommen. Er wurde als Sachverständiger eingeladen, um zur Enquetekommission „Künstliche Intelligenz“ Stellung zu nehmen. Diese Kommission, die 2025 ins Leben gerufen wurde, beschäftigt sich unter anderem mit den Auswirkungen künstlicher Intelligenz auf die innere Sicherheit.
In seiner schriftlichen Stellungnahme betont Botta, dass KI ein zweischneidiges Werkzeug ist. Während sie Potenzial für gemeinwohlförderliche Anwendungen bietet, birgt sie auch Risiken. Besonders alarmierend sind neue Gefahren, die durch Technologien wie Deep Fakes entstehen, da diese zur Verbreitung von Fake-Inhalten genutzt werden können. Dies verdeutlicht die Notwendigkeit eines verantwortungsvollen Umgangs mit KI.
Strukturelle Schwächen und Transparenz
Botta kritisiert strukturelle Schwächen von KI-Systemen, wie beispielsweise Halluzinationen und Intransparenz. Diese Aspekte können den Grundrechtsschutz gefährden. Ein Beispiel hierfür ist die von Palantir entwickelte Software Gotham, die im Polizeibereich eingesetzt wird und große Datenmengen über unbeteiligte Personen speichert. Diese Art der Datenverknüpfung wirft ethische und rechtliche Fragen auf.
Er fordert, dass polizeiliche Maßnahmen nachvollziehbar und begründbar sein müssen, um das Vertrauen der Bürger in diese Technologien zu stärken. In diesem Zusammenhang hebt Botta die Bedeutung der digitalen Souveränität hervor und spricht sich für die Entwicklung eigener Systeme in Europa aus.
Förderung europäischer Innovationen
Ein weiterer zentraler Punkt in Bottas Argumentation ist die Notwendigkeit, europäische Eigeninnovationen im Bereich KI zu fördern. Er ist der Überzeugung, dass die letzte Entscheidung immer beim Menschen verbleiben sollte. Daher sollten Fachkräfte im Umgang mit KI umfassend geschult werden.
Um mehr Transparenz zu schaffen, schlägt er die Einführung eines Transparenzregisters für behördliche KI-Systeme vor. Dies könnte dazu beitragen, das Vertrauen in den Einsatz von Technologie im öffentlichen Sektor zu stärken und eine verantwortungsvolle Nutzung zu fördern.
Im Hinblick auf die akademische Öffentlichkeit bietet Botta im Sommersemester 2026 eine Veranstaltungsreihe zu aktuellen Fällen des Datenschutzrechts an, die kostenfrei via Zoom stattfindet. Diese Initiative soll dazu beitragen, das Bewusstsein für die Herausforderungen im Kontext von KI und Datenschutz zu schärfen.