Un responsable de soporte de una empresa fintech de 2.000 empleados contacta al equipo de seguridad. Su chatbot de atención al cliente acaba de indicar a un usuario cómo eludir la verificación de identidad; la transcripción muestra al bot citando con seguridad una política interna. La pregunta parece sencilla, pero tiene matices: ¿estamos ante un error habitual del modelo, una inyección de prompt, una fuga de datos o una dependencia comprometida? Si no clasificamos el incidente rápidamente, no podremos determinar la medida de contención adecuada, las pruebas que deben preservarse ni el equipo que debe intervenir.
En este curso, utilizamos la lista OWASP Top 10 para aplicaciones LLM (versión 2026) como marco de referencia compartido para la clasificación inicial (triage), el modelado de amenazas, las pruebas y la monitorización. El triage consiste en tomar una decisión rápida y responsable sobre el tipo de fallo que se está produciendo, su posible alcance y los pasos a seguir mientras la situación aún está evolucionando. El objetivo de la Lección 1 es practicar la identificación y denominación de los síntomas observados en producción, utilizando categorías que se mantengan coherentes entre equipos y a lo largo del tiempo.
Cuando una funcionalidad basada en LLM presenta un comportamiento anómalo, los equipos suelen debatir sobre la intención y la redacción. En su lugar, nosotros nos centraremos en los síntomas observables: qué fuentes de entrada alimentaron el modelo, qué resultados generó y qué efectos externos se produjeron. Estas pistas suelen apuntar a una o dos categorías de OWASP, incluso antes de conocer la causa raíz. A continuación, realizaremos el triage de un incidente simulado y etiquetaremos la categoría principal, así como cualquier categoría secundaria relevante que convenga monitorizar en paralelo:
Para clasificar correctamente, necesitamos un modelo mental compartido sobre cómo una aplicación de LLM ensambla una solicitud individual. La ventana de contexto se refiere al conjunto de tokens que el modelo procesa para generar una respuesta. A menudo incluye texto directo del usuario, fragmentos recuperados de una base de conocimientos, resultados de herramientas e instrucciones ocultas, como un prompt del sistema. Cuando contenido no confiable entra en esa misma ventana de contexto, puede alterar el comportamiento, provocar la exposición de datos o desencadenar acciones inseguras posteriores. En la siguiente sección, analizaremos dónde es probable que haya ingresado el contenido no confiable y cómo ello dio lugar a la elusión de políticas observada:
No saques conclusiones precipitadas basándote solo en la etiquetaUn mismo síntoma puede corresponder a varias categorías. Considera las etiquetas iniciales como hipótesis de trabajo y conserva las pruebas antes de realizar optimizaciones.
La lista OWASP Top 10 for LLM Applications 2026 clasifica los riesgos más críticos para las aplicaciones que utilizan grandes modelos de lenguaje (LLM). Su objetivo es permitir que los equipos de seguridad, ingeniería y gobernanza hablen de los mismos tipos de fallos utilizando una terminología común, y asegurar que los planes de pruebas abarquen toda la superficie de riesgo en lugar de centrarse únicamente en el incidente más reciente. Este curso está alineado con las diez categorías; las abordaremos directamente a través de lecciones y ejercicios, en lugar de tratarlas simplemente como un anexo de consulta. Aquí tienes el esquema completo que utilizaremos a lo largo del curso: