El compromiso de un LLM en entorno real rara vez se debe a un único fallo; suele tratarse de una cadena de síntomas que deben vincularse rápidamente a la categoría OWASP correspondiente. Este curso ofrece a los equipos de seguridad y a los ingenieros de IA/ML una perspectiva defensiva sobre los principales patrones de amenazas en aplicaciones de IA y LLM, planteando enfoques prácticos para la contención, el endurecimiento (hardening), la validación y la monitorización. Al finalizar, los participantes serán capaces de clasificar ataques, seleccionar controles para neutralizarlos y evaluar un sistema LLM aplicando un criterio de seguridad sistemático y reproducible.
El curso abarca la inyección de prompts, la divulgación de información sensible, la exposición de contexto oculto, la autonomía excesiva, el manejo inadecuado de resultados, los riesgos en la cadena de suministro, el envenenamiento de datos y modelos, el consumo ilimitado, las vulnerabilidades en vectores y embeddings, y la desinformación. También incluye la verificación, las pruebas, las señales de monitoreo y un flujo de trabajo de revisión alineado con OWASP para evaluaciones de seguridad de LLM.