La evaluación de seguridad de los LLM determina si un sistema es seguro para el uso previsto, más allá de simplemente generar resultados de alta calidad. Este curso desarrolla un flujo de trabajo de evaluación práctico que abarca el análisis de riesgos, el diseño de pruebas, los conjuntos de datos, las métricas, la calificación, las pruebas adversarias y la ejecución automatizada. Al finalizar, usted contará con las competencias necesarias para interpretar fallos, evaluar el riesgo residual y fundamentar las decisiones de despliegue con evidencia documentada.
El curso abarca la delimitación del alcance de los riesgos, los criterios de prueba, los conjuntos de datos de seguridad, las métricas que consideran la fiabilidad, la calificación automatizada, la evaluación comparativa con HELM Safety y HarmBench, las pruebas adversarias y los flujos de evaluación reproducibles. También aborda la clasificación de fallos, la evaluación de RAG y agentes, las pruebas de regresión, la evaluación continua, la elaboración de informes y los criterios de control para el despliegue.