Sécurisation des pipelines RAG

Développez des systèmes augmentés par la recherche documentaire capables de résister aux données empoisonnées, aux accès non autorisés, aux injections de requêtes (prompt injection) et aux réponses dangereuses.

12 leçons
Approfondir
Expliquer avec l’IA
Revoir et régénérer

Programme

4 sections · 12 leçons

Définissez les limites de confiance et les modes de défaillance qui distinguent la génération augmentée par la recherche (RAG) de la sécurité des modèles classiques, en incluant le texte récupéré non fiable et la sortie du modèle.

2 leçons

Analysez la manière dont les documents corrompus et les instructions cachées influencent le contexte récupéré, puis positionnez les mécanismes de vérification de la provenance, les niveaux de confiance, la segmentation, l'isolement et les contrôles de politique aux points de contrôle appropriés.

2 leçons

Concevez des mécanismes d'autorisation préalable à la recherche, d'isolation des locataires, de protection des embeddings, de validation de l'ingestion et de défense au niveau de la couche de réponse contre les fuites d'informations et les sorties dangereuses.

5 leçons

Élaborez des mécanismes de vérification des réponses fondés sur des preuves ainsi qu'une surveillance de la sécurité, puis appliquez ces contrôles à une architecture RAG complète destinée au support client, en précisant les risques résiduels.

3 leçons

À propos de ce cours

Les systèmes RAG associent la recherche aux modèles de langage, engendrant des failles de sécurité que la simple conception de prompts ne permet pas de prévenir. Ce cours aide les développeurs et ingénieurs ML de niveau intermédiaire à appréhender les limites de confiance, à contrôler les données et les processus de récupération, à protéger les locataires (tenants) et les informations sensibles, ainsi qu'à vérifier les réponses. À l'issue de la formation, vous disposerez d'une conception concrète pour sécuriser un système RAG dédié au support client, incluant les points de contrôle et les risques résiduels.

Le cours aborde les limites de confiance du RAG, l'empoisonnement, l'injection indirecte de prompts, la récupération tenant compte des permissions, l'isolation des tenants, la protection des embeddings et des magasins de vecteurs, la validation de l'ingestion, le filtrage des sorties, les citations, la vérification des réponses, la surveillance ainsi que l'évaluation de la sécurité.

Questions fréquentes

À qui s’adresse Fenzo ?

Des chefs de projet et équipes opérationnelles aux fondateurs, analystes et équipes qui adoptent l’IA, Fenzo s’adresse à tous ceux qui veulent progresser dans le travail qu’ils font déjà.

Que puis-je apprendre avec Fenzo ?

Tout, de l’utilisation de l’IA pour planifier des projets et analyser des données à l’amélioration des processus, de la prise de décision, de la communication et de l’exécution. Si tu peux décrire la compétence ou la tâche, Fenzo peut créer un cours autour.

Fenzo peut-il créer un cours pour mon travail précis ?

Oui. Dis à Fenzo ce que tu fais, ce que tu cherches à accomplir et où tu bloques, et Fenzo adaptera le cours à ton rôle, à tes objectifs et au travail que tu dois réellement faire.

Dois-je bien maîtriser l’IA ?

Non. Fenzo s’adapte à ton point de départ : tu peux commencer par les bases ou passer directement à des sujets plus avancés.

Mon équipe peut-elle utiliser Fenzo ensemble ?

Oui. Fenzo for Business réunit toute ton équipe dans un seul abonnement : licences partagées, cours que tu peux attribuer et rapports sur qui a terminé quoi.

Découvrir Fenzo for Business

Comment Fenzo sait-il ce que je dois apprendre ?

Tu commences par décrire ton objectif ou par passer une courte évaluation de tes compétences. Fenzo utilise ce contexte pour repérer tes lacunes et concevoir l’expérience d’apprentissage autour d’elles.

Puis-je utiliser Fenzo sur mon téléphone ?

Oui, Fenzo fonctionne dans le navigateur de ton téléphone.

Recommandations similaires

Dans chaque leçon

Quelque chose avec quoi interagir dans chaque section.

Choisir une méthode d’attribution pour l’optimisation IA

Critère	Poids	Dernier clic	Multi-touch	MMM	Incrémentalité
Longueur du funnel	−4+	16	32	28	36
Budget	−3+	27	18	15	12
Mix de canaux	−4+	20	28	36	32
Maturité des données	−5+	40	30	25	35
Total	—	103	108	104	115

Excellent 30+Bon 15+Moyen 8+Faible <8

L’incrémentalité mène sur trois des quatre critères ; elle ne perd que sur le budget.

Expliquer avec l’IAVoir les calculs

Trouves-tu cela utile ?

Main.java

1class Main {

2 public static void main(String[] args) {

3 // + s’évalue de gauche à droite, donc 7 et 2 sont concaténés

4 System.out.println("value=" + 7 + 2);

5 // les parenthèses font passer l’addition en premier

6 System.out.println("value=" + (7 + 2));

7 System.out.println("" + (7 / 2));

8 System.out.println("" + (7.0 / 2));

9 }

10}

Sortie

Exécuter

Priorité dans la concaténation de chaînes

Fondé sur la science de l’apprentissage.

Trois conclusions issues de décennies de recherche sur l’apprentissage ont façonné la conception de chaque leçon Fenzo.

Apprentissage actif > apprentissage passif.

66 %Passif

78 %Actif

Taux de réussite moyen · Freeman et al., PNAS 2014

Ce que dit la science

Les étudiants des cours magistraux ont 1,5 fois plus de risques d’échouer.

Comment Fenzo l’applique

Chaque leçon Fenzo est interactive. Jamais de lecture ni de visionnage passifs.

L’atrophie due à l’IA est réelle.

Tu le fais toi-mêmeL’IA le fait pour toi

Rétention des compétences dans le temps · avec ou sans pratique

Ce que dit la science

Déléguer sa réflexion à l’IA affaiblit justement les compétences que tu cherches à développer.

Comment Fenzo l’applique

Avec Fenzo, c’est toi qui réfléchis : guidé, mais jamais à ta place.

Réponses ≠ compréhension.

Pratique de récupérationRelecture

Mémorisation à long terme · récupération vs relecture

Ce que dit la science

Se remémorer une information est plus efficace que la relire pour construire une compréhension durable.

Comment Fenzo l’applique

Les leçons intègrent des quiz et des rappels pour que les acquis restent.

À propos de ce cours

Questions fréquentes

À qui s’adresse Fenzo ?

Des chefs de projet et équipes opérationnelles aux fondateurs, analystes et équipes qui adoptent l’IA, Fenzo s’adresse à tous ceux qui veulent progresser dans le travail qu’ils font déjà.

Que puis-je apprendre avec Fenzo ?

Fenzo peut-il créer un cours pour mon travail précis ?

Oui. Dis à Fenzo ce que tu fais, ce que tu cherches à accomplir et où tu bloques, et Fenzo adaptera le cours à ton rôle, à tes objectifs et au travail que tu dois réellement faire.

Dois-je bien maîtriser l’IA ?

Non. Fenzo s’adapte à ton point de départ : tu peux commencer par les bases ou passer directement à des sujets plus avancés.

Mon équipe peut-elle utiliser Fenzo ensemble ?

Oui. Fenzo for Business réunit toute ton équipe dans un seul abonnement : licences partagées, cours que tu peux attribuer et rapports sur qui a terminé quoi.

Découvrir Fenzo for Business

Comment Fenzo sait-il ce que je dois apprendre ?

Puis-je utiliser Fenzo sur mon téléphone ?

Oui, Fenzo fonctionne dans le navigateur de ton téléphone.

Dans chaque leçon

Quelque chose avec quoi interagir dans chaque section.

Choisir une méthode d’attribution pour l’optimisation IA

Critère	Poids	Dernier clic	Multi-touch	MMM	Incrémentalité
Longueur du funnel	−4+	16	32	28	36
Budget	−3+	27	18	15	12
Mix de canaux	−4+	20	28	36	32
Maturité des données	−5+	40	30	25	35
Total	—	103	108	104	115

Excellent 30+Bon 15+Moyen 8+Faible <8

L’incrémentalité mène sur trois des quatre critères ; elle ne perd que sur le budget.

Expliquer avec l’IAVoir les calculs

Trouves-tu cela utile ?

Main.java

1class Main {

2 public static void main(String[] args) {

3 // + s’évalue de gauche à droite, donc 7 et 2 sont concaténés

4 System.out.println("value=" + 7 + 2);

5 // les parenthèses font passer l’addition en premier

6 System.out.println("value=" + (7 + 2));

7 System.out.println("" + (7 / 2));

8 System.out.println("" + (7.0 / 2));

9 }

10}

Sortie

Exécuter

Priorité dans la concaténation de chaînes

Fondé sur la science de l’apprentissage.

Trois conclusions issues de décennies de recherche sur l’apprentissage ont façonné la conception de chaque leçon Fenzo.

Apprentissage actif > apprentissage passif.

66 %Passif

78 %Actif

Taux de réussite moyen · Freeman et al., PNAS 2014

Ce que dit la science

Les étudiants des cours magistraux ont 1,5 fois plus de risques d’échouer.

Comment Fenzo l’applique

Chaque leçon Fenzo est interactive. Jamais de lecture ni de visionnage passifs.

L’atrophie due à l’IA est réelle.

Tu le fais toi-mêmeL’IA le fait pour toi

Rétention des compétences dans le temps · avec ou sans pratique

Ce que dit la science

Déléguer sa réflexion à l’IA affaiblit justement les compétences que tu cherches à développer.

Comment Fenzo l’applique

Avec Fenzo, c’est toi qui réfléchis : guidé, mais jamais à ta place.

Réponses ≠ compréhension.

Pratique de récupérationRelecture

Mémorisation à long terme · récupération vs relecture

Ce que dit la science

Se remémorer une information est plus efficace que la relire pour construire une compréhension durable.

Comment Fenzo l’applique

Les leçons intègrent des quiz et des rappels pour que les acquis restent.

Programme

Section 1 : Limites de sécurité et risques

Section 2 : Mesures de contrôle contre les empoisonnements et les injections

Section 3 : Protection des données d'accès et des résultats

Section 4 : Vérification, surveillance et application

À propos de ce cours

Questions fréquentes

Recommandations similaires

Dans chaque leçon

Fondé sur la science de l’apprentissage.

Apprentissage actif > apprentissage passif.

L’atrophie due à l’IA est réelle.

Réponses ≠ compréhension.

Programme

Section 1 : Limites de sécurité et risques

Section 2 : Mesures de contrôle contre les empoisonnements et les injections

Section 3 : Protection des données d'accès et des résultats

Section 4 : Vérification, surveillance et application

À propos de ce cours

Questions fréquentes

Recommandations similaires

Dans chaque leçon

Fondé sur la science de l’apprentissage.

Apprentissage actif > apprentissage passif.

L’atrophie due à l’IA est réelle.

Réponses ≠ compréhension.