Art. 14 – Menschliche Aufsicht

KI-Systemen ist zwar eine beeindruckende Leistungskraft eigen. Ihnen unterlaufen aber teils auch überraschende Fehler. Denn im Unterschied zum Menschen fehlt ihnen der Common Sense. Treffen sie falsche Entscheidungen, ist das jedoch für Dritte regelmäßig nicht erkennbar. Gerade in (grundrechts-)sensiblen Bereichen birgt diese Intransparenz neue Gefahren. Dem setzt die KI-VO zahlreiche Schutzinstrumente entgegen (insbes. Risikomanagement, Qualität und Relevanz der verwendeten Datensätze, technische Dokumentation, Aufzeichnungs-, Transparenz- und Informationsbereitstellungspflichten für die Betreiber sowie normative Vorgaben für die Robustheit, Genauigkeit und Cybersicherheit). Ergänzend gehört auch die menschliche Aufsicht zu den zentralen Anforderungen, die die KI-VO für den gesamten Lebenszyklus von Hochrisiko-KI-Systemen aufstellt (Erwgr. 65, 66). Sie soll Risiken senken und dazu beitragen, dass der Einsatz von KI vertrauenswürdig und ethisch vertretbar ist. Der Unionsgesetzgeber möchte damit einen ausgewogenen Kompromiss zwischen Innovationsförderung und Risikoschutz herstellen.