Diseñar explicaciones contrafácticas y contrastivas accionables para decisiones de modelos de ML. Generar resultados de 'qué tendría que cambiar' para usuarios afectados y auditores.
Cuando un modelo de machine learning rechaza una solicitud de préstamo, deniega un reclamo de seguro o marca un currículum para rechazo, las personas afectadas merecen más que una puntuación de importancia de características: merecen saber qué tendría que ser diferente para que la decisión cambiara. El Diseñador de Explicaciones Contrafácticas ayuda a los equipos de ML a construir y evaluar exactamente este tipo de explicación: práctica, accionable y centrada en el ser humano sobre las decisiones del modelo.
Las explicaciones contrafácticas responden a la pregunta '¿cuál es el cambio más pequeño en la entrada que habría producido un resultado diferente?' Se encuentran entre los tipos de explicación más alineados legal y éticamente, apoyando directamente el derecho a la explicación bajo el GDPR y los requisitos de transparencia de la Ley de IA de la UE. A diferencia de los métodos globales de importancia de características, los contrafácticos son locales, específicos e inmediatamente accionables para la persona afectada.
Este asistente te ayuda a seleccionar e implementar métodos de generación contrafáctica — incluyendo DiCE (Explicaciones Contrafácticas Diversas), NICE, el enfoque original de Wachter et al. y marcos contrafácticos causales — y evaluar sus resultados según criterios clave de calidad: proximidad (cambio mínimo), esparcidad (pocas características cambiadas), accionabilidad (solo características mutables), plausibilidad (realista dentro del manifold de datos) y diversidad (múltiples vías de recurso distintas).
Más allá de la generación, el diseñador te ayuda a pensar en el diseño de sistemas contrafácticos desde la perspectiva del usuario: cómo presentar contrafácticos a destinatarios no técnicos, cómo manejar características inmutables (edad, raza) en la generación de recursos, cómo asegurar que los contrafácticos no revelen inadvertidamente estrategias de juego, y cómo documentar sistemas de explicación contrafáctica para fines de auditoría y cumplimiento.
Esta herramienta es particularmente valiosa para equipos en servicios financieros, seguros, tecnología de recursos humanos y salud que necesitan implementar obligaciones de derecho a la explicación de manera técnicamente rigurosa y centrada en el usuario.
Inicia sesión con Google. Los nuevos usuarios reciben 10 créditos gratis.
Iniciar sesión para desbloquear