Este curso avanzado de *red teaming* comienza con la clasificación de un incidente real en un LLM según los criterios de OWASP. Se centra en pruebas de adversario autorizadas, dirigidas a equipos de seguridad y especialistas en *red teaming* que requieren definir un alcance claro, obtener evidencias y fundamentar decisiones de lanzamiento para sus propias aplicaciones. Al finalizar, los participantes serán capaces de diseñar un programa de pruebas, ejecutar ataques controlados utilizando herramientas habituales y transformar los hallazgos en un informe ejecutivo que incluya recomendaciones de remediación y orientación sobre la viabilidad del lanzamiento.
El curso abarca la planificación de pruebas alineada con OWASP, las reglas de interacción y los casos ejecutables para una aplicación LLM específica. También cubre pruebas de inyección de prompts con garak, PyRIT y promptfoo, además de categorías de fallos relacionadas con la recuperación de información, la memoria, los agentes, la gestión de salidas y la cadena de suministro.