Superviser des agents d’IA en milieu professionnel implique de préserver la responsabilité humaine alors même qu’un logiciel agit pour le compte d’une personne. Ce cours s’appuie sur le cadre de gouvernance modèle pour l’IA autonome (ou « agentique ») de l’Infocomm Media Development Authority (IMDA), qui préconise des méthodes pratiques pour répartir les responsabilités et assurer une supervision réelle. La décision sous-jacente est simple à énoncer, mais difficile à appliquer de manière constante : il s’agit de déterminer quand un agent peut poursuivre sa tâche, quand il doit s’interrompre pour une vérification et quand le relais doit être passé à un responsable désigné. Cette démarche s’inscrit dans le quotidien : approuver une modification de flux de travail, se fier au contenu généré par un agent pour un e-mail client ou le laisser mettre à jour un enregistrement partagé. La difficulté ne réside pas seulement dans la compréhension de l’outil, mais dans le suivi de la responsabilité lorsque les actions de l’agent ont des répercussions sur d’autres personnes et systèmes.
Selon l’approche de l’IMDA, les agents se distinguent des précédentes formes d’IA en entreprise par leur capacité à agir, à s’adapter à de nouvelles informations et à interagir avec des systèmes pour accomplir des tâches à la place des humains. C’est ce changement qui transforme la supervision : elle ne se limite plus à un examen ponctuel, mais devient un mode de travail continu, même lorsque l’agent est utile et bien intentionné. L’IMDA souligne également la nécessité de trouver un équilibre, car une supervision humaine ininterrompue de chaque flux de travail s’avère impraticable à grande échelle. Le point de départ ne consiste donc pas à tout surveiller, mais à déterminer quelles actions sont cruciales, où placer les points de contrôle et qui peut intervenir en cas d’anomalie. C’est cette cartographie des décisions que le reste du cours viendra étoffer, étape par étape. Esquissons la nature de ces décisions avant d’approfondir le sujet.
Un agent d’IA est un logiciel capable de planifier des étapes et d’effectuer des actions sur plusieurs cycles pour atteindre un objectif que vous avez défini, comme rechercher des informations, créer des fichiers ou mettre à jour un système. Un outil de discussion (chat) classique se contente généralement de proposer du texte que vous pouvez utiliser. Un agent va plus loin, car il peut accomplir des tâches concrètes dans l’environnement de travail, et pas seulement les suggérer. Cette distinction est cruciale, même si l’interface semble identique, car les effets des actions de l’agent peuvent perdurer au-delà de la conversation elle-même.
La question primordiale à se poser ne concerne pas l’intelligence de l’agent, mais plutôt ce qu’il peut consulter et modifier grâce aux autorisations qui lui ont été accordées. Si un agent est capable de lire un calendrier, de rédiger un e-mail puis de l’envoyer, il s’agit de trois actions distinctes aux conséquences différentes. Le contrôle commence par la considération de ces autorisations comme de véritables décisions, et non comme de simples paramètres par défaut fournis avec l’outil.
Si vous supervisez un agent ou en êtes le responsable, votre rôle consiste à garantir que la responsabilité reste entre les mains d’une personne, même lorsque le travail est délégué à un logiciel. Le cadre établi par l’IMDA précise qu’un déploiement fiable ne repose pas uniquement sur les développeurs ; les utilisateurs finaux doivent également faire preuve de responsabilité dans l’utilisation des agents. Vous devez donc savoir ce que l’agent est censé faire, ce qu’il ne doit pas faire, et quelle conduite adopter s’il sort de ce cadre. Il n’est pas nécessaire d’avoir conçu l’agent pour exiger ces informations.
Les concepteurs, les fournisseurs et les équipes informatiques conservent des responsabilités essentielles, notamment en ce qui concerne la conception, les tests, la surveillance et l’intégration de l’agent aux autres outils. Votre rôle, en revanche, est différent : vous définissez les modalités d’utilisation acceptables au sein de vos processus, vous vérifiez que les mécanismes de contrôle prévus sont effectivement appliqués et vous signalez tout problème lorsqu’aucun responsable clairement identifié n’est désigné. Lorsqu’une équipe est incapable de nommer le responsable d’un agent au sein d’un flux de travail, il ne s’agit pas d’une simple lacune administrative, mais d’une défaillance du contrôle.