Governance automatisierter Entscheidungen: Audit, Aufsicht und Steuerung für KI-Entscheidungsmodelle Schulung

Was sich ändert, wenn Entscheidungen modellgesteuert werden

• Von Regeln und menschlicher Urteilsfindung zu bewerteten Optionen
• Tempo und Umfang automatisierter Aktionen
• Neue Fehlermuster und Lücken in der Verantwortlichkeit

Bestandsaufnahme der Entscheidungen und Risikoklassifizierung

• Erfassung automatisierter Entscheidungen
• Wirkung, Rückholbarkeit und betroffene Parteien
• Risikostufen und Erwartungen an Kontrollen
• Verantwortlichkeit pro Entscheidungsklasse

Verantwortlichkeit und menschliche Aufsicht

• Substanzielle vs. nominelle menschliche Überprüfung
• Autonomie-Schwellenwerte als Governance-Entscheidungen
• Eskalationspfade und Reaktionszeiten
• Verantwortlicher Eigentümer und Freigabe (Sign-off)

Entscheidungsprotokolle und Erklärbarkeit

• Inhalt eines verteidigungsfähigen Entscheidungsprotokolls
• Aufbewahrung von Konfidenz, Optionen und Kontext
• Nachverfolgbarkeit von Modell und Version
• Erläuterung einer Entscheidung gegenüber Kunde oder Regulierer

Steuerung von Richtlinien und Grenzen

• Genehmigte Optionensätze und Change Management
• Governance von Schwellenwerten und periodische Überprüfung
• Verbotene Entscheidungen und harte Stopps
• Richtlinien als Code neben dem Modell-Output

Regulatorische Erwartungen

• Pflichten aus dem EU AI Act für Entscheidungssysteme
• Branchenspezifische Regeln in Finanzwesen, Versicherung und Gesundheit
• Datenschutz und Rechte bei automatisierten Entscheidungen
• Dokumentation und Konformitätsnachweise

Risiken durch Anbieter, Lizenzen und Herkunft

• Hosted-Entscheidungs-APIs vs. offene Gewichte
• Lizenzbedingungen für abgeleitete und eingebettete Modelle
• Abhängigkeit von Lieferanten und Abbruchsrisiko
• Integrität der Gewichte und Versionsfixierung

Verzerrungen, Fairness und Ergebnisüberwachung

• Ergebnisungleichheit zwischen Gruppen
• Proxy-Variablen und Rahmung der Optionen
• Signale aus Einsprüchen und Beschwerden
• Periodische Fairness-Überprüfung

Reaktion auf falsche Entscheidungen

• Erkennung systematischer Entscheidungsfehler
• Eindämmung und Aussetzung der Autonomie
• Abhilfe und Entschädigung für Kunden
• Ursachenanalyse und Aktualisierung der Kontrollen

Sicherstellungsprüfung einer Entscheidungsebene

• Nachweise, die ein Auditor anfordern sollte
• Testen von Präzisions- und Kalibrierungsbehauptungen
• Stichproben von Entscheidungen und Überschreibungen
• Berichterstattung der Befunde an den Vorstand