Una empresa fintech de tamaño mediano opera un chatbot de atención al cliente basado en Generación Aumentada por Recuperación (RAG), capaz de extraer fragmentos de manuales operativos internos y de tickets anteriores. Un cliente pega un mensaje que parece una consulta de facturación habitual, pero que contiene una instrucción oculta indicando al modelo que revele las directrices internas de escalado y las resuma para el usuario. El modelo obedece y el chatbot devuelve información que nunca debió divulgarse externamente. Este es el fallo que prevenimos en este curso: la LLM01 Inyección de Prompts actúa como punto de entrada y la LLM02 Divulgación de Información Sensible como impacto.
El resultado inmediato de la Lección 1 es adquirir un hábito de clasificación fiable. A partir de la transcripción de una interacción con el chatbot, debemos ser capaces de identificar la causa raíz como LLM01 (o una categoría afín) y predecir qué otras categorías de OWASP suelen intervenir en la misma cadena de incidentes; esto nos permite diseñar controles en capas en lugar de soluciones aisladas. El siguiente elemento visual muestra la trayectoria desde la inyección hasta la divulgación a nivel de sistema, permitiéndonos fundamentar las medidas de mitigación posteriores en un flujo concreto.
La lista OWASP Top 10 para aplicaciones LLM (versión 2026) clasifica diez modos de fallo comunes en aplicaciones impulsadas por modelos de lenguaje de gran tamaño (LLM). La utilizaremos como lenguaje común para definir requisitos, realizar modelado de amenazas, ejecutar pruebas y generar informes a lo largo de este programa. La lista completa incluye: LLM01 Inyección de prompts (Prompt Injection), LLM02 Divulgación de información sensible, LLM03 Agencia excesiva, LLM04 Cadena de suministro, LLM05 Envenenamiento de datos y modelos, LLM06 Consumo ilimitado, LLM07 Desinformación, LLM08 Exposición de contexto oculto, LLM09 Debilidades en vectores y embeddings, y LLM10 Gestión inadecuada de la salida.
Este curso aborda directamente y de forma integral el riesgo LLM01 (Inyección de prompts), incluyendo la inyección directa e indirecta, los controles de defensa en profundidad y los métodos para probarlos. También trata directamente los riesgos LLM02 (Divulgación de información sensible), LLM03 (Agencia excesiva), LLM08 (Exposición de contexto oculto) y LLM10 (Gestión inadecuada de la salida), ya que suelen generar impactos derivados o amplificar riesgos en arquitecturas reales. Los elementos restantes se tratan como dependencias adyacentes; es decir, haremos referencia a ellos cuando la elección de un control para LLM01 genere exposición en otras áreas, o cuando el programa requiera definir límites sobre qué queda fuera del alcance de una revisión específica. Utiliza el siguiente widget para consultar la lista completa y ver qué aspectos cubre este programa con mayor profundidad.