Art. 14 - Menschliche Aufsicht

KI-Systeme bestechen zwar durch eine beeindruckende Leistungskraft und Effizienz. Ihnen unterlaufen aber auch überraschende Fehler. Denn im Unterschied zum Menschen fehlt ihnen der Common Sense. Treffen sie falsche Entscheidungen, ist das für Dritte regelmäßig auch nicht erkennbar. Gerade in (grundrechts-)sensiblen Bereichen birgt diese Intransparenz Gefahren. Ihnen setzt die KI-VO zahlreiche Schutzinstrumente entgegen – nicht nur ein Risikomanagementsystem (Art. 9), Anforderungen an die Qualität und Relevanz der verwendeten Datensätze (Art. 10), eine technische Dokumentation (Art. 11), Aufzeichnungs- (Art. 12), Transparenz- und Informationsbereitstellungspflichten (Art. 13) sowie normative Vorgaben für die Genauigkeit, Robustheit und Cybersicherheit (Art. 15), sondern auch die menschliche Aufsicht.