Deutsches Forschungsinstitut für öffentliche Verwaltung

Algorithmen und Künstliche Intelligenz (insbesondere in der öffentlichen Verwaltung) als Regulierungsaufgabe

Unter dem Oberbegriff „Künstliche Intelligenz“ firmieren zahlreiche Anwendungen maschinellen Lernens, die sich dadurch auszeichnen, dynamische Lösungswege zu beschreiten. Für ihre Funktionsweise sind zum Teil nicht mehr programmierte Vorgaben entscheidend, sondern ein Gesamtsystem aus Datenbasis, Trainings- und Testumgebung sowie dem eigentlichen Lernverfahren – etwa künstliche neuronale Netze (Deep Learning). Die Rechtsordnung steht hierbei zum Teil vor ganz neuen Herausforderungen. Denn bereits technisch ist es oftmals hochgradig aufwändig bis unmöglich, das Verhalten der Systeme nachzuvollziehen oder zu prognostizieren. Zugleich können lernfähige Systeme mit oftmals bestechender Schärfe Erkenntnisse zu Tage bringen und steuernde Entscheidungen in komplexen Wirkungszusammenhängen treffen – etwa beim pilotierten Fahren oder im Smart Grid. Das Projekt wird zunächst die spezifischen Chancen und Gefahren herausarbeiten, die sich mit dem Phänomen „Künstliche Intelligenz“ verbinden – um anschließend nach passenden Regulierungsansätzen zu fahnden, die sicherstellen, dass ihr Einsatz mit den Grundsätzen des Persönlichkeitsschutzes, der Rechtssicherheit und der Orientierung am Gemeinwohl im Einklang steht. Denkbare Ansätze sind standardisierende Vorgaben (bspw. im Zusammenhang mit Auditierungsverfahren), aufsichtsrechtliche Befugnisse zur Kontrolle bestimmter Anwendungsformen, materiell-rechtliche Vorschriften für bestimmte Sektoren und ein (auch ethisches) Gesamtkonzept für den gesellschaftlichen Umgang mit Künstlicher Intelligenz.

Besonders interessant und auch weitgehend offen sind zudem die Fragen, wie und ab welcher kritischen Schwelle welche Regulierungsbemühungen des Gesetzgebers ansetzen sollten. Insbesondere wird der Programmbereich daher die Frage stellen, welche Schwellen für welche Rechtsfolgen überschritten werden müssen bzw. ob nur bestimmte Sektoren des Wirtschaftslebens einer Regulierung unterfallen sollen.

Zudem sind die zahlreichen Vorschläge für Regulierungsbehörden auf ihre juristische Machbarkeit und Sinnhaftigkeit zu untersuchen. Hieran knüpfen sich auch Überlegungen an, in wie weit Deutschland hier nach der DSGVO Regelungsspielraum verbleibt und die Bundesrepublik ggf. von innovativen Regelungstechniken, wie Experimentierklauseln, Gebrauch machen kann. Ein weiterer Fokus wird auf technischen Wegen und organisatorischen Maßnahmen liegen, die sicherstellen, dass die Gesetzmäßigkeit von Computerprogrammen überprüfbar ist oder die ihre Entscheidungen zumindest erklärbar machen. Bei der Bearbeitung der Forschungsfragen kann der Programmbereich auf die umfangreichen Erkenntnisse der Vorgängerprojekts "Algorithmenkontrolle als Regulierungsaufgabe" aufbauen, aus dem u.a. die Monographie "Blackbox Algorithmus - Grundfragen einer Regulierung Künstlicher Intelligenz" (Springer Verlag, Heidelberg u.a. 2019) entstanden ist.

Ein wichtiger Teilaspekt ist die Frage, wie sich der Staat die Potentiale lernfähiger Softwareanwendungen zu eigen machen kann, um seine Aufgabenerfüllung zu optimieren – etwa durch den Einsatz von Chatbots in der öffentlichen Verwaltung oder bei der Steuerung öffentlicher Datenströme (etwa in einer Smart City). Von besonderem Interesse ist dabei die Frage, wie sich Governance-Systeme dadurch ändern, dass in der Schaltzentrale neben den Menschen nun auch immer „intelligentere“ technische Agenten sitzen: Welche Fallstricke sind zu berücksichtigen, wenn der Staat gesellschaftliche Abläufe zunehmend softwarebasiert steuert? Der Blick fällt dabei auch auf die verfassungsrechtlichen Grenzen des KI-Einsatzes in der öffentlichen Verwaltung.

Kontakt

Prof. Dr. Mario Martini

Website

 Michael Kolain

Website

 Alexander Feldhaus

Website

 Jan Mysegades

Website