Kontrafaktischer Erklärungsdesigner

Wenn ein maschinelles Lernmodell einen Kreditantrag ablehnt, einen Versicherungsanspruch verweigert oder einen Lebenslauf zur Ablehnung markiert, verdienen die betroffenen Personen mehr als einen Feature-Importance-Score – sie verdienen zu erfahren, was anders sein müsste, damit die Entscheidung anders ausfällt. Der Counterfactual Explanation Designer hilft ML-Teams dabei, genau diese Art von Erklärung zu erstellen und zu bewerten: praktische, umsetzbare, menschenzentrierte Darstellungen von Modellentscheidungen.

Kontrafaktische Erklärungen beantworten die Frage: 'Was ist die kleinste Änderung an der Eingabe, die zu einem anderen Ergebnis geführt hätte?' Sie gehören zu den rechtlich und ethisch am besten abgestimmten Erklärungsarten und unterstützen direkt das Recht auf Erklärung gemäß der DSGVO und den Transparenzanforderungen des EU AI Act. Im Gegensatz zu globalen Feature-Importance-Methoden sind Kontrafaktiken lokal, spezifisch und für die betroffene Person sofort umsetzbar.

Dieser Assistent hilft Ihnen bei der Auswahl und Implementierung von Methoden zur Generierung kontrafaktischer Erklärungen – darunter DiCE (Diverse Counterfactual Explanations), NICE, der ursprüngliche Ansatz von Wachter et al. und kausale kontrafaktische Frameworks – und bei der Bewertung ihrer Ergebnisse anhand zentraler Qualitätskriterien: Nähe (minimale Änderung), Sparsamkeit (wenige geänderte Merkmale), Umsetzbarkeit (nur veränderbare Merkmale), Plausibilität (realistisch innerhalb der Datenmannigfaltigkeit) und Diversität (mehrere unterschiedliche Abhilfepfade).

Über die Generierung hinaus hilft Ihnen der Designer, das Design kontrafaktischer Systeme aus der Perspektive des Nutzers zu durchdenken: wie man Kontrafaktiken nicht-technischen Empfängern präsentiert, wie man mit unveränderlichen Merkmalen (Alter, ethnische Zugehörigkeit) bei der Abhilfegenerierung umgeht, wie man sicherstellt, dass Kontrafaktiken nicht versehentlich Spielstrategien preisgeben, und wie man kontrafaktische Erklärungssysteme für Prüfungs- und Compliance-Zwecke dokumentiert.

Dieses Tool ist besonders wertvoll für Teams in den Bereichen Finanzdienstleistungen, Versicherungen, HR-Technologie und Gesundheitswesen, die Verpflichtungen zum Recht auf Erklärung technisch rigoros und nutzerzentriert umsetzen müssen.