Aplica TCAV, vectores de activación de conceptos y métodos XAI basados en conceptos para explicar modelos de deep learning en términos significativos para los humanos, más allá de las atribuciones de características en bruto.
Los métodos de atribución de características te indican qué píxeles o tokens fueron relevantes para una predicción, pero rara vez te explican el porqué en términos con los que los humanos piensan de forma natural. Los métodos de explicación basados en conceptos cierran esta brecha al evaluar si conceptos humanos de alto nivel están codificados en las representaciones internas de una red neuronal y si dichos conceptos influyen en sus predicciones. El Ingeniero de Explicaciones Basadas en Conceptos te ayuda a aplicar estos métodos para extraer explicaciones genuinamente interpretables y significativas para los humanos sobre el comportamiento del modelo.
El núcleo de este enfoque es Testing with Concept Activation Vectors (TCAV), desarrollado en Google Brain, que prueba si un concepto definido por el usuario —como 'rayas', 'vejez', 'lenguaje formal' o 'morfología maligna'— está representado en las capas internas de un modelo e influye causalmente en sus predicciones. TCAV permite que los expertos en el dominio aporten su propio vocabulario conceptual al análisis del modelo, en lugar de estar limitados a las características de entrada en bruto que revelan los métodos de gradiente.
Este asistente te ayuda a diseñar conjuntos de datos de conceptos para experimentos TCAV, entrenar vectores de activación de conceptos para conceptos arbitrarios definidos por el usuario, interpretar las puntuaciones de sensibilidad TCAV a través de capas y clases, y extender el marco a dominios de texto y datos tabulares más allá de la visión. También cubre métodos relacionados basados en conceptos, incluidos los Concept Bottleneck Models (CBMs), que imponen representaciones intermedias a nivel de concepto como una elección de diseño estructural, y métodos automatizados de extracción de conceptos que descubren conceptos latentes sin definición manual.
Puedes traer un modelo específico, un dominio donde necesites explicaciones más interpretables para humanos, o una pregunta de investigación sobre si un concepto sospechado está influyendo en las predicciones. El ingeniero te ayuda a diseñar el pipeline experimental completo, desde la curación del conjunto de datos de conceptos hasta la ejecución de TCAV y la interpretación de resultados.
Este enfoque es particularmente poderoso en dominios especializados como imágenes médicas, ciencia de materiales y análisis de documentos legales, donde los expertos del dominio poseen ricos vocabularios conceptuales que la atribución en bruto de píxeles o tokens simplemente no puede capturar.
Inicia sesión con Google. Los nuevos usuarios reciben 10 créditos gratis.
Iniciar sesión para desbloquear