AI used by the state: Safeguarding autonomy and human rights with transparency to citizens and support for public servants

Für die erfolgreiche Verwaltungsdigitalisierung werden Systeme künstlicher Intelligenz zur Schlüsseltechnologie. Gleichzeitig wirft die Einführung von KI-basierten Systemen in der öffentlichen Verwaltung relevante ethische und rechtliche Fragen im Hinblick auf den Rechtsschutz und die Autonomie der einzelnen Menschen, aber auch die Integrität demokratischer Gesellschaften und der Rechtsstaatlichkeit insgesamt auf. Die Gewährleistung von größtmöglicher Transparenz über den Einsatz von KI-Systemen ist daher von herausragender Bedeutung. Als Vorreiter gelten in dieser Hinsicht die Niederlande, die bereits ein sogenanntes KI-Transparenzregister eingeführt haben. Eine Idee, die auch für Deutschland viel Potenzial birgt.

Gemeinsam mit den zivilgesellschaftlichen Partnern (AlgorithmWatch und NExT e. V. – Netzwerk: Experten für die digitale Transformation der Verwaltung) soll daher im einjährigen Förderzeitraum ein tragfähiger Rahmen für ein KI-Transparenzregister für die öffentliche Verwaltung und rechtliche Anforderungen für dessen Umsetzung entwickelt werden. Dabei sind vor allem die Vorgaben der neuen europäischen KI-Verordnung und der verbleibende mitgliedstaatliche Regelungsspielraum in den Blick zu nehmen.

Auf der Grundlage einer Folgenabschätzung wird das Register Informationen über wesentliche Eigenschaften von KI-Systemen liefern. Dies dient nicht nur der Zivilgesellschaft, sondern auch der Verwaltung, denn es bietet entscheidende Informationen, die bisher fehlten.