La supervision humaine dans l’utilisation quotidienne de l’IA consiste à vérifier ce que produit un outil avant que ce résultat n’entraîne des conséquences dans le monde réel. Elle s’inscrit dans des tâches courantes telles que la rédaction, le tri, la relecture et l’aide à la décision, où la rapidité et le volume de travail incitent à accepter la première réponse plausible venue. Ce cours ancre cette supervision quotidienne dans le règlement européen sur l’IA (EU AI Act) et vise une décision pratique : à l’issue de la formation, l’apprenant saura quand se fier au résultat d’une IA, quand le remettre en question et quand empêcher l’outil d’agir. L’erreur courante consiste à réduire la supervision à une simple vérification finale des coquilles, plutôt qu’à la considérer comme un choix délibéré concernant l’impact et la réversibilité. Cette erreur découle de la conception du flux de travail, l’outil et la tâche étant intégrés au sein d’une même interface.
Une équipe peut faire preuve d’une grande vigilance tout en passant à côté du moment crucial. Elle peut, par exemple, relire un résumé généré par un modèle, l’intégrer dans un e-mail destiné à un client et l’envoyer au nom d’une personne sans consulter le document source. Cette même équipe pourrait accepter un score de confiance et orienter un dossier vers la mauvaise file d’attente, ne s’en apercevant qu’une fois la réclamation du client reçue. Dans les deux cas, une vérification a bien eu lieu, mais trop tard pour modifier la décision. La difficulté ne réside pas dans la compréhension de l’importance de la prudence, mais dans la capacité à repérer, au sein d’un flux de travail rapide, les quelques moments où une pause, une remise en question ou un arrêt de l’action restent possibles et peu coûteux. Le schéma ci-dessous présente les décisions de supervision qui constituent le fil conducteur de ce cours.
Dans ce cours, un système d’IA désigne tout outil qui reçoit des données en entrée et produit des résultats influençant la manière dont les personnes travaillent ou dont un service fonctionne. Cela inclut les systèmes capables de générer du texte, de classer des options, de catégoriser du contenu, d’extraire des données ou de recommander des actions, même lorsqu’ils sont intégrés à un produit familier. Une formule de tableur est prévisible une fois qu’on la connaît. En revanche, un outil d’IA peut modifier sa réponse suite à de légers changements de formulation ; c’est pourquoi la question de la supervision porte sur la fiabilité, et pas seulement sur l’exactitude.
Votre équipe utilise probablement déjà des systèmes d’IA au quotidien, car l’« IA » désigne souvent une fonctionnalité plutôt qu’une application distincte. Une console de support peut suggérer des réponses, un outil de traitement de documents peut réécrire des sections et une file d’attente de révision peut trier les éléments selon une priorité prédite. Chacun de ces outils offre une forme d’assistance. Chacun fait également avancer le travail, ce qui signifie que le résultat produit peut se transformer en décision sans être explicitement qualifié comme tel.
La supervision quotidienne incombe à la personne la plus proche du moment de l’utilisation, car elle seule a connaissance de la requête (prompt), du contexte et de l’usage prévu du résultat. C’est à vous qu’il revient de décider d’utiliser le résultat, de le modifier, de demander des justificatifs ou d’interrompre le processus pour le faire remonter à un niveau supérieur, car vous constituez le dernier maillon humain avant que le résultat n’aboutisse dans un ticket, un dossier, un message ou une décision. Votre rôle diffère ainsi de celui lié à la gouvernance, qui consiste à établir des règles et à vérifier les tendances sur un grand nombre d’utilisations.
Ce cours utilise également des termes définissant des rôles clés dans le cadre du règlement européen sur l’IA (EU AI Act), car les obligations varient selon les responsabilités de chacun.
L’activité suivante permet de vérifier si, en situation d’urgence ou sous pression temporelle, votre réflexe par défaut correspond à l’étape la plus sûre, car c’est à ce stade que la supervision réussit ou échoue.