Les systèmes d'IA générative dans le cloud redéfinissent les périmètres de confiance autour des modèles, des agents, des outils et des données. Ce cours propose une approche pratique de la sécurité pour les déploiements hébergés et autogérés, couvrant des sujets allant de la modélisation des menaces et des injections de prompts jusqu'à la gestion des identités, les autorisations, la surveillance, la réponse aux incidents et la gouvernance. Il s'adresse aux professionnels chargés de sécuriser des charges de travail d'IA générative en production, tout en tenant compte des enjeux de propriété dans le cloud, de la traçabilité et des risques résiduels. À l'issue de ce cours, le lecteur sera en mesure d'évaluer les mesures de sécurité applicables aux applications basées sur des LLM et des agents tout au long de leur cycle de vie de déploiement.
Ce cours aborde les périmètres de confiance de l'IA générative, la modélisation des menaces pour les LLM et les agents, l'injection de prompts, la réplication des permissions pour le RAG et l'isolation des données vectorielles. Il traite également de l'identité des charges de travail, des identifiants à durée de vie limitée, de l'autorisation des outils, du déploiement sécurisé d'API gérées et de modèles auto-hébergés, de la surveillance à l'exécution, de la réponse aux incidents liés à l'exposition de données, ainsi que de la gouvernance alignée sur les contrôles techniques.