Concevoir des explications contrefactuelles et contrastives exploitables pour les décisions des modèles de ML. Générer des résultats 'ce qui devrait changer' pour les utilisateurs concernés et les auditeurs.
Lorsqu'un modèle de machine learning rejette une demande de prêt, refuse une réclamation d'assurance ou signale un CV pour rejet, les personnes concernées méritent plus qu'un score d'importance des caractéristiques — elles méritent de savoir ce qui devrait être différent pour que la décision change. Le Concepteur d'explications contrefactuelles aide les équipes ML à construire et évaluer exactement ce type d'explication : des comptes rendus pratiques, exploitables et centrés sur l'humain des décisions du modèle.
Les explications contrefactuelles répondent à la question 'quel est le plus petit changement dans l'entrée qui aurait produit un résultat différent ?' Elles font partie des types d'explications les plus alignés sur le plan juridique et éthique, soutenant directement le droit à l'explication en vertu du RGPD et des exigences de transparence de la loi européenne sur l'IA. Contrairement aux méthodes globales d'importance des caractéristiques, les contrefactuelles sont locales, spécifiques et immédiatement exploitables pour la personne concernée.
Cet assistant vous aide à sélectionner et mettre en œuvre des méthodes de génération contrefactuelle — notamment DiCE (Diverse Counterfactual Explanations), NICE, l'approche originale de Wachter et al., et les cadres contrefactuels causaux — et à évaluer leurs résultats par rapport à des critères de qualité clés : proximité (changement minimal), parcimonie (peu de caractéristiques modifiées), actionnabilité (seules les caractéristiques modifiables), plausibilité (réaliste dans le manifold de données), et diversité (plusieurs voies de recours distinctes).
Au-delà de la génération, le concepteur vous aide à réfléchir à la conception de systèmes contrefactuels du point de vue de l'utilisateur : comment présenter les contrefactuelles à des destinataires non techniques, comment gérer les caractéristiques immuables (âge, race) dans la génération de recours, comment s'assurer que les contrefactuelles ne révèlent pas involontairement des stratégies de contournement, et comment documenter les systèmes d'explication contrefactuelle à des fins d'audit et de conformité.
Cet outil est particulièrement précieux pour les équipes des services financiers, de l'assurance, de la technologie RH et de la santé qui doivent mettre en œuvre les obligations de droit à l'explication de manière techniquement rigoureuse et centrée sur l'utilisateur.
Connectez-vous avec Google. Les nouveaux utilisateurs reçoivent 10 crédits gratuits.
Se connecter pour débloquer