Ein KI-Transparenzregister für die öffentliche Verwaltung:

KI birgt das Potenzial, zum Eckpfeiler der digitalen Transformation in der öffentlichen Verwaltung zu werden. Während der Einsatz von KI-Systemen effizientere Abläufe durch Automatisierung verspricht, birgt er auch erhebliche Risiken, insbesondere in Bezug auf Datenschutz und die Gleichbehandlung von Individuen. Eine der drängendsten Herausforderungen ist der bestehende Mangel an Transparenz – sowohl für Bürger als auch für die Verwaltung selbst. Außerhalb der zuständigen Regierungsbehörden ist oft unklar, wo und zu welchen Zwecken KI-Systeme eingesetzt werden. Das Bewusstsein für die verwendeten Systeme und deren Funktionsweise ist jedoch entscheidend, um die öffentliche Akzeptanz zu fördern, eine effektive Aufsicht zu gewährleisten, Grundrechte zu schützen und den ressortübergreifenden Wissensaustausch zu erleichtern.

Um die Transparenz bezüglich des staatlichen Einsatzes von KI zu erhöhen, ist die Einführung eines öffentlichen Registers ratsam – ähnlich dem System, das bereits in den Niederlanden existiert. Im niederländischen „Algoritmeregister“ sind Regierungsbehörden verpflichtet, die von ihnen verwendeten KI-Systeme zu erfassen. Das Register liefert wichtige Details wie den Verwendungszweck des Systems, seinen Anwendungsbereich und die potenziellen Auswirkungen auf Bürger und Unternehmen. Anfang 2025 unternahm das Bundesministerium des Innern und für Heimat mit dem „Marktplatz der KI-Möglichkeiten“ erste vorsichtige Schritte in diese Richtung.

Die Einrichtung eines nationalen KI-Transparenzregisters für die öffentliche Verwaltung wirft jedoch erhebliche rechtliche Bedenken auf. Der KI-Act der EU etabliert einen eigenen Rahmen für die KI-Transparenz, der Vorrang vor nationalen Gesetzen hat. Gemäß dem KI-Act müssen öffentliche Behörden die Nutzung spezifischer Hochrisiko-KI-Systeme in einer zentralen Datenbank offenlegen (Artikel 71 KI-Act) und insbesondere eine Zusammenfassung der Folgenabschätzung für Grundrechte bereitstellen (Artikel 27 KI-Act). Wenn der KI-Act die KI-Transparenz innerhalb der öffentlichen Verwaltung umfassend regelt, könnte die Schaffung eines nationalen Registers im Widerspruch zum EU-Recht stehen. Selbst wenn das EU-Recht die Schaffung eines solchen Registers nicht vollständig ausschließt, muss die Herangehensweise an seine Umsetzung im Einklang mit dem deutschen Verfassungsrecht stehen. Insbesondere müssen der Grundsatz des „Vorbehalts des Gesetzes“ und Deutschlands föderales Kompetenzsystem berücksichtigt werden. Dieser Artikel untersucht diese Fragen und skizziert, wie das Konzept eines nationalen KI-Transparenzregisters im europäischen Mehrebenensystem rechtlich umgesetzt werden kann.