Une fintech de taille moyenne exploite un chatbot de support client basé sur la génération augmentée par récupération (RAG), capable d’extraire des informations de procédures opérationnelles internes et d’anciens tickets. Un client saisit un message qui semble être une question classique de facturation, mais qui contient une instruction intégrée ordonnant au modèle de révéler les directives internes d’escalade et d’en faire un résumé à l’intention de l’utilisateur. Le modèle s’exécute et le chatbot renvoie un contenu qui n’était pas destiné à être divulgué à l’extérieur. C’est ce type de défaillance que nous cherchons à prévenir dans ce cours : l’injection de prompt (LLM01) constitue le point d’entrée, tandis que la divulgation d’informations sensibles (LLM02) représente l’impact.
L’objectif immédiat de la première leçon est d’acquérir le réflexe d’une classification fiable. À partir de l’historique d’une interaction avec le chatbot, nous devons être capables d’identifier la cause première comme relevant de la catégorie LLM01 (ou d’une catégorie connexe), puis de prédire quelles autres catégories OWASP sont généralement impliquées dans la même chaîne d’incidents. Cela nous permet de concevoir des mesures de contrôle multicouches plutôt que de simples correctifs ponctuels. Le widget suivant illustre le cheminement allant de l’injection à la divulgation au niveau du système, afin d’ancrer les futures mesures d’atténuation dans un flux concret.
Le classement « OWASP Top 10 for LLM Applications 2026 » recense dix modes de défaillance courants affectant les applications basées sur des LLM (grands modèles de langage). Nous l’utiliserons comme langage commun pour définir les exigences, modéliser les menaces, effectuer les tests et établir les rapports tout au long de ce programme. La liste complète comprend : LLM01 Injection de prompt, LLM02 Divulgation d’informations sensibles, LLM03 Autonomie excessive, LLM04 Chaîne d’approvisionnement, LLM05 Empoisonnement des données et des modèles, LLM06 Consommation illimitée, LLM07 Désinformation, LLM08 Exposition de contexte caché, LLM09 Vulnérabilités des vecteurs et des plongements (embeddings), et LLM10 Gestion inadéquate des sorties.
Ce cours traite de manière approfondie et exhaustive du risque LLM01 (Injection de prompt), en abordant notamment les injections directes et indirectes, les mesures de défense en profondeur et les méthodes de test associées. Il aborde également directement les risques LLM02 (Divulgation d’informations sensibles), LLM03 (Autonomie excessive), LLM08 (Exposition de contexte caché) et LLM10 (Gestion inadéquate des sorties), car ils constituent souvent des conséquences en aval ou des facteurs aggravants dans les architectures réelles. Les autres éléments de la liste sont traités comme des dépendances connexes ; nous y ferons référence lorsqu’une mesure de contrôle choisie pour LLM01 créera une exposition ailleurs, ou lorsque le programme nécessitera de délimiter le périmètre d’une évaluation donnée. Utilisez le widget ci-dessous pour consulter la liste complète et découvrir les points traités en priorité par ce programme.