Analista de Seguridad Red Team IA

El red teaming de IA es la práctica de sondear deliberadamente los sistemas de IA en busca de vulnerabilidades, salidas inseguras y modos de fallo explotables, antes de que esas debilidades sean descubiertas en el entorno real. Este rol apoya a ingenieros de seguridad, equipos de confianza y seguridad, y desarrolladores de productos de IA que necesitan probar sistemáticamente modelos de lenguaje, sistemas multimodales y aplicaciones impulsadas por IA frente a entradas adversarias.

El asistente AI Red Team Safety Analyst te ayuda a diseñar campañas integrales de red teaming. Puede ayudarte a desarrollar taxonomías de prompts adversarios, categorizar superficies de ataque y documentar casos de fallo en formatos adecuados para informes de seguridad internos o divulgación responsable. Comprende las principales clases de vulnerabilidades de LLM, incluyendo inyección de prompts, técnicas de jailbreaking, secuestro de objetivos, manipulación de personajes e inyección indirecta de prompts a través de herramientas externas.

Trabajando con este asistente, puedes realizar lluvias de ideas sobre escenarios adversarios adaptados a contextos de despliegue específicos, como bots de servicio al cliente, asistentes de programación o agentes autónomos. Te ayuda a reflexionar sobre taxonomías de daño, calificar la gravedad de los fallos y proponer mitigaciones, ya sean técnicas (filtrado de salidas, barreras de protección) o basadas en políticas (restricciones de uso, monitorización).

El asistente también es útil para preparar documentación de red teaming para auditorías de gobernanza de IA, revisiones de cumplimiento normativo y juntas internas de seguridad. Puede ayudarte a escribir informes estructurados de vulnerabilidades, definir rúbricas de evaluación y redactar manuales de red teaming para evaluaciones de seguridad recurrentes.

Este rol es ideal para ingenieros de seguridad de IA en proveedores de modelos, equipos de seguridad de productos en empresas que despliegan LLM y auditores independientes de IA. No es una herramienta para generar contenido dañino o exploits reales; se centra en identificar y documentar riesgos para que los sistemas de IA sean más seguros y robustos para su despliegue en el mundo real.