Schrift vergrößern Schrift verkleinern Kontrast ändern zurücksetzen

DE | EN

Deutsches Forschungsinstitut für öffentliche Verwaltung

Algorithmenkontrolle als Regulierungsaufgabe

Algorithmen, die im Maschinenraum moderner Softwareanwendungen werkeln, sind zu zentralen Steuerungsressourcen der digitalen Gesellschaft avanciert. Ihre Klassifikationen treffen wichtige Differenzierungsentscheidungen in Lebensbereichen, die für Menschen eine mitunter existenzielle Bedeutung aufweisen – von Kaufentscheidungen über die Kreditvergabe, die Meinungsbildung und Strafverfolgung bis hin zur Job- und Partnersuche.

Ausgehend von dem Realbefund der enormen Chancen, aber auch substanziellen Risiken der fortschreitenden Algorithmisierung der Gesellschaft, ihren technischen Grundlagen und den gesellschaftspolitischen Herausforderungen digitaler algorithmengesteuerter Technologien, spürt das Projekt Regulierungsbedürfnissen nach, die von algorithmischen Steuerungseinflüssen ausgehen. Es begibt sich auf die Suche nach einem kategorischen Imperativ für die Welt algorithmenbasierter Entscheidungsfindung und maschinellen Lernens. Um die zielführendsten Pfade zu erkunden, gleicht es insbesondere die Wesensmerkmale softwarebasierter Anwendungen mit bereits bestehenden bereichsspezifischen (Risiko-)Regulierungsansätzen des Technikrechts als Referenz ab. Auf dieser Grundlage entwickelt es Bausteine einer Regulierungsstrategie für algorithmenbasierte Verfahren und lernfähige Systeme, unterteilt nach einem Pflichten- und Kontrollregime ex ante, begleitend und ex post. Nach regulatorischen Anknüpfungspunkten sucht es nicht nur in der DSGVO, dem AGG und dem UWG, sondern entwickelt auch ganz neue Ideen. Das Projekt mündet in einem Tableau möglicher Reformansätze und kann deshalb dazu beitragen, die intensive gesellschaftliche Diskussion, die rund um Fragen der Künstlichen Intelligenz und der Algorithmenregulierung entbrannt ist, zu versachlichen und im besten Fall auf eine neue Stufe zu heben.

Mit Blick auf die verbraucherschützenden Aspekte einer Algorithmenkontrolle im „Internet der Dinge" ist das Projekt teilweise drittmittelfinanziert: Der Programmbereich hat sich im Rahmen des Ausschreibungsverfahrens für das Förderprogramm „Innovationsförderung im Verbraucherschutz in Recht und Wirtschaft - Verbraucherbezogene Forschung über das ‚Internet der Dinge‘" des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) mit seinem Antrag zur Algorithmenkontrolle als verbraucherpolitischem Schutzmechanismus durchgesetzt.

Publikationen

Martini, Mario/Nink, David, Wenn Maschinen entscheiden... - vollautomatisierte Verwaltungsverfahren und der Persönlichkeitsschutz, NVwZ 2017, S. 681 f. (Kurzfassung); NVwZ-Extra 10/2017, S. 1 ff. (Langfassung). 

Hinweis: Die Texte auf dieser Homepage sind urheberrechtlich geschützt. Sie stammen wörtlich oder sinngemäß aus Martini, Digitalisierung als Herausforderung und Chance für Staat und Verwaltung, FÖV Discussion Paper Nr. 85, 2016, insbesondere S. 42 ff.

 

Programmleiter

Prof. Dr. Mario Martini

Website

Projektbearbeiter

Michael Kolain

Michael Kolain, Ass. iur.

Website

Projektbearbeiter

Jan Mysegades, Ass. iur.

Website