La compromission d'un LLM en production résulte rarement d'un simple bug ; il s'agit d'une chaîne de symptômes qu'il convient de rattacher rapidement à la catégorie OWASP appropriée. Ce cours offre aux équipes de sécurité et aux ingénieurs en IA/ML une perspective de défenseur sur les principaux vecteurs de menace visant les applications basées sur les LLM et l'IA, tout en proposant des approches concrètes en matière de confinement, de durcissement, de validation et de surveillance. À l'issue de la formation, les participants seront capables de classifier les attaques, de sélectionner les mesures de contrôle pour les neutraliser et d'évaluer un système LLM selon une méthodologie de sécurité reproductible.
Le cours aborde l'injection de prompts, la divulgation d'informations sensibles, l'exposition de contextes cachés, l'autonomie excessive, le traitement inapproprié des sorties, les risques liés à la chaîne d'approvisionnement, l'empoisonnement des données et des modèles, la consommation illimitée de ressources, les vulnérabilités liées aux vecteurs et aux « embeddings », ainsi que la désinformation. Il traite également de la vérification, des tests, des signaux de surveillance et d'un flux de travail d'examen aligné sur l'OWASP pour l'évaluation de la sécurité des LLM.