Art. 13 – Transparenz und Bereitstellung von Informationen für die Betreiber

Viele KI-Systeme gleichen einer Blackbox: Ihre Funktions- und Arbeitsweise sowie Entscheidungsprozesse liegen im Dunkeln. Insbes. lernende Systeme sind so komplex, dass selbst ihre Entwickler bzw. Programmierer häufig nicht sagen können, auf welchen verschlungenen Pfaden sie zu ihren Ergebnissen gelangen. Art. 13 soll dazu beitragen, dass Betreiber in der Lage sind, zu verstehen, wie Hochrisiko-KI-Systeme funktionieren und diese Funktionalität zu bewerten sowie Stärken und Grenzen zu erfassen. Der Verordnungsgeber setzt insoweit insbes. auf zwei Instrumente: Er schreibt integrierte Transparenzmechanismen des Systems und Gebrauchsanweisungen vor. Die Kommentierung arbeitet die damit verbundenen normativen Herausforderungen heraus.