Las aplicaciones de generación aumentada por recuperación (RAG) combinan modelos de lenguaje con datos externos, creando nuevas vías para la manipulación, la fuga de información y la interrupción del servicio. Este curso para principiantes establece un modelo de seguridad claro para dichas vías y vincula las amenazas con medidas de protección en capas, mecanismos de monitoreo y decisiones sobre el riesgo residual. Al finalizar, dispondrá de un enfoque práctico para evaluar un sistema RAG y seleccionar los controles que mitiguen sus riesgos más críticos.
El curso abarca el flujo de datos RAG, el modelado de amenazas, la inyección de prompts, el envenenamiento de datos, la manipulación de la recuperación, así como los riesgos relacionados con la privacidad, la infraestructura, la cadena de suministro y la disponibilidad. También aborda mecanismos de salvaguarda (guardrails), controles de ingesta y recuperación, protección de acceso, monitorización, red teaming seguro, ejemplos de validación ejecutables y una lista de comprobación de seguridad.