Les applications basées sur des LLM acceptent des entrées non fiables, génèrent des sorties incertaines et peuvent déclencher des actions aux conséquences importantes ; les mécanismes de sécurité doivent donc être intégrés à des étapes du backend où ils peuvent être réellement appliqués. Ce cours aide les développeurs de niveau intermédiaire à transformer les risques liés au produit en garde-fous multicouches, couvrant notamment les prompts malveillants, les réponses dangereuses, les données sensibles, le périmètre d'action, les sorties structurées, les classifieurs et les interactions avec des outils. À l'issue de la formation, vous disposerez d'une conception complète du système de contrôle pour un chatbot, incluant des tests quantifiables, la télémétrie et une analyse explicitable des arbitrages entre sécurité, latence et coût.
Le cours aborde la mise en place de garde-fous, la délimitation du périmètre des menaces, le filtrage des entrées et des sorties, la détection de données sensibles, les limites thématiques et d'autorisation, la validation de schémas, les décisions des classifieurs, l'autorisation d'outils, la sécurité des URL, l'optimisation des pipelines, les tests de régression, la télémétrie ainsi que l'intégration multicouche de chatbots.