Ce cours porte sur les agents d’IA capables d’effectuer des actions dans votre environnement de travail ; il s’appuie sur le cadre de gouvernance de l’IA pour les systèmes autonomes (Model AI Governance Framework for Agentic AI) de l’IMDA comme référence en matière de bonnes pratiques. Il s’adresse aux superviseurs et aux responsables qui doivent définir les autorisations d’un agent, ses modalités de surveillance et les situations nécessitant une intervention humaine. L’erreur courante consiste à assimiler l’agent à un simple assistant conversationnel et à se focaliser sur ses propos, alors que le véritable changement réside dans sa capacité à agir via les outils auxquels il a accès. Ce décalage se manifeste dans les tâches quotidiennes par des actions telles que la clôture d’un ticket, l’envoi d’un e-mail ou la mise à jour d’un enregistrement ; les conséquences sont généralement d’ordre pratique avant de devenir critiques. La difficulté ne réside pas dans la compréhension du jargon de l’IA, mais dans l’établissement de limites solides, capables de tenir bon lorsque l’agent est très sollicité et que les équipes travaillent dans l’urgence.
Lors d’un déploiement type, une équipe active quelques intégrations, assigne un objectif à l’agent et prévoit une note destinée à être examinée par un humain. Cette approche semble maîtrisée, mais la réalité du contrôle dépend de la qualité de la vérification, de la possibilité d’interrompre l’action et de la réversibilité de celle-ci. Ce cours se concentre sur ces choix, car ce sont des décisions qu’un manager peut réellement prendre sans avoir à écrire du code ni à étudier des textes juridiques. Le schéma ci-dessous présente une vue d’ensemble avant d’aborder les différents composants.
Un agent d’IA est un logiciel capable de déterminer les étapes à suivre puis d’effectuer des actions à l’aide d’outils que vous mettez à sa disposition, tels qu’un système de gestion de tickets, la messagerie électronique, un calendrier ou une base de données interne. Un assistant conversationnel (ou chat assistant) est un logiciel qui génère du texte destiné à être lu et utilisé par une personne, même si ce texte est d’excellente qualité. Cette distinction est importante car l’action entraîne des conséquences en dehors de la conversation ; vous devez donc gérer les autorisations, les validations et les procédures d’annulation, et pas seulement l’exactitude des informations. Dire qu’un agent est sûr parce qu’il explique son raisonnement revient à se fier au récit qu’il fait de ses actes, sans pour autant vérifier les modifications qu’il a réellement opérées.
En tant que superviseur ou responsable, il vous incombe d’exiger des réponses claires sur les points suivants : qui est responsable de l’agent, quels outils il peut utiliser et pour quelles tâches il doit en référer à un humain. Vous devez considérer le champ d’action comme l’étendue de ce que l’agent peut atteindre, et l’autonomie comme sa capacité à prendre des décisions seul ; en effet, élargir simultanément ces deux paramètres conduit souvent les équipes à perdre de vue les capacités réelles de l’agent. Avant le lancement, vous pouvez exiger un bref descriptif de ses capacités, incluant les limites de son action et la procédure d’escalade à suivre lorsqu’il atteint ces limites. Lors de l’utilisation, soyez vigilant face aux moments où les utilisateurs cessent de vérifier les résultats parce que l’agent semble sûr de lui : c’est précisément alors que des actions inappropriées risquent de passer inaperçues.
Répondre aux questions suivantes vous permettra de situer vos pratiques actuelles concernant les agents et d’identifier les points nécessitant une évolution.