Les applications de génération augmentée par récupération (RAG) associent des modèles de langage à des données externes, créant ainsi de nouvelles voies pour la manipulation, les fuites de données et les interruptions de service. Ce cours pour débutants établit un modèle de sécurité clair pour ces vecteurs d'attaque, puis associe les menaces à des mesures de protection multicouches, à la surveillance et aux décisions relatives aux risques résiduels. Vous repartirez avec une méthode pratique pour évaluer un système RAG et sélectionner les mesures de contrôle permettant d'en réduire les risques majeurs.
La formation aborde le flux de données RAG, la modélisation des menaces, l'injection de prompts, l'empoisonnement des données, la manipulation de la récupération, ainsi que les risques liés à la confidentialité, à l'infrastructure, à la chaîne d'approvisionnement et à la disponibilité. Elle traite également des garde-fous, des contrôles d'ingestion et de récupération, de la protection des accès, de la surveillance, du « red teaming » sécurisé, d'exemples de validation exécutables et d'une liste de contrôle de sécurité.