L’approbation du déploiement d’une IA correspond au moment où une organisation décide de laisser un système d’IA agir dans le monde réel, en utilisant des données réelles et en interagissant avec des personnes réelles. Ce cours vise à rendre cette approbation responsable, afin qu’un dirigeant, un responsable de programme ou un détenteur de budget puisse décider quand donner son feu vert, quand marquer une pause et quelles preuves exiger. Une erreur majeure consiste à considérer la responsabilité comme un élément pouvant être fourni par un prestataire ou pris en charge uniquement par une équipe juridique ; en effet, la décision d’approbation elle-même définit les conditions auxquelles chacun devra se conformer par la suite. Une approbation qui semble relever d’une simple validation commerciale se transforme souvent en un choix de modèle opérationnel ; c’est pourquoi cette tâche incombe aux décideurs plutôt qu’aux seuls spécialistes.
Une approbation responsable s’inscrit dans les processus de travail courants, et pas seulement lors de lancements très médiatisés. Une équipe propose un cas d’usage, un prestataire avance des arguments et l’entreprise impose des contraintes de temps et de budget. Le responsable de l’approbation définit les mécanismes de supervision, les éléments à consigner et à surveiller, ainsi que la marche à suivre en cas de problème, même si les détails techniques sont rédigés par d’autres. Cette démarche s’applique également aux systèmes déjà en service, pour lesquels il s’agit de vérifier si l’utilisation actuelle correspond toujours à ce qui a été approuvé. Il est utile d’avoir une vue d’ensemble du processus dès le début, car les enseignements ultérieurs associeront des questions précises à des étapes spécifiques de ce parcours.
La structure complète du processus d’approbation est présentée dans la carte mentale ci-dessous.
Une équipe affirme acquérir un outil d’analyse de données, une autre parle d’un chatbot, et une troisième évoque l’automatisation. En pratique, vous avez affaire à un système d’IA dès lors que l’outil utilise des données issues de votre environnement pour produire des résultats qui orientent une décision, une recommandation ou une action. Ce point est crucial au moment de l’approbation, car un même processus d’achat peut dissimuler des comportements très différents ; le décideur doit savoir repérer lorsqu’une « fonctionnalité » participe en réalité à la prise de décision.
Prenons l’exemple d’un outil de gestion des notes de frais signalant des demandes pour examen, d’un système de présélection classant les candidats ou d’un assistant de support rédigeant des réponses destinées aux agents. Chacun de ces outils peut modifier l’issue des processus pour le personnel ou les clients, même si c’est un humain qui valide l’action finale. La question clé pour l’approbation n’est pas de savoir si l’IA est mise en avant dans le discours marketing, mais quelle place elle occupe dans le processus et ce qu’elle est susceptible d’influencer une fois intégrée aux opérations réelles.
Un fournisseur peut fournir des documents et des garanties, mais il ne peut pas prendre la décision d’approbation à votre place. C’est à vous qu’il revient de décider d’autoriser l’utilisation du système, de définir son périmètre d’action ainsi que les modalités de supervision et de suivi. Vous êtes également libre d’exiger des preuves tangibles, car une approbation fondée uniquement sur des déclarations de confiance a tendance à échouer dès l’apparition du premier cas limite.
Les équipes de mise en œuvre et de gestion des risques accomplissent un travail essentiel, et cette séparation des rôles est utile. Elles peuvent effectuer des tests, concevoir des contrôles et mener des diligences raisonnables ; elles doivent vous présenter des options en exposant clairement les compromis associés. Votre rôle consiste à formaliser ces options dans le dossier d’approbation, afin de permettre une vérification ultérieure de ce qui a été approuvé, des hypothèses retenues et des conditions nécessitant une nouvelle approbation.
La vérification ci-dessous porte sur les réflexes qui guident une décision d’approbation sûre, avant même d’aborder les aspects juridiques.