Ce cours porte sur la définition des actions qu’un agent d’IA est autorisé à effectuer dans un contexte professionnel, en s’appuyant sur les recommandations du cadre de gouvernance de l’IA (Model AI Governance Framework) de l’IMDA pour l’IA autonome (ou « agentique »). À l’issue de ce cours, même un lecteur novice sur le sujet devrait être en mesure de prendre une décision concrète : déterminer si un agent peut lire, écrire ou exécuter des opérations au sein d’un système sans solliciter l’aval d’un humain. De nombreuses équipes considèrent les autorisations des agents comme un simple écran de configuration que l’on pourra ajuster ultérieurement. La difficulté réside dans le fait que les choix d’autorisation déterminent les capacités de l’agent avant même que le premier résultat ne soit généré. Cette erreur découle souvent d’une transposition des habitudes liées aux outils de messagerie instantanée (chat), où le système suggère du texte sans pour autant agir.
L’intervention d’un agent ne se limite pas à son utilisation quotidienne ; elle s’inscrit également dans les phases de configuration et de validation. Une personne le connecte à des outils tels que la messagerie électronique, les systèmes de gestion de tickets ou les portails fournisseurs. Une autre personne valide ces connexions ainsi que les conditions qui les régissent. Bien que ces étapes puissent ressembler à une intégration classique, la décision diffère car l’agent a la capacité d’agir, et ces actions peuvent être difficiles à annuler une fois exécutées. C’est pourquoi ce cours revient sans cesse sur une distinction simple : un chatbot fait des propositions, tandis qu’un agent passe à l’action. Voici un aperçu du contenu du cours :
Un agent d’IA est un logiciel capable de planifier des étapes et d’utiliser des outils connectés pour accomplir une tâche avec un minimum d’allers-retours. Alors qu’un assistant génère généralement du texte qu’une personne doit copier, un agent peut effectuer lui-même une modification dans un autre système. Cette distinction est importante, car une action exécutée peut perdurer au-delà de la conversation qui l’a déclenchée. On peut supprimer un message, mais il n’est pas toujours possible d’annuler l’envoi d’un e-mail ou la clôture d’un ticket.
Même lorsqu’une action est réversible, son annulation a souvent un coût en termes de temps et de confiance. Un ticket rouvert suite à la réponse d’un client donne toujours l’impression que le suivi a été négligé. Une fiche fournisseur corrigée après une mise à jour laisse tout de même une valeur erronée dans l’export de données d’un utilisateur. Bien démarrer signifie considérer les autorisations comme un choix de conception initial, et non comme un simple filet de sécurité de dernier recours.
Les décisions concernant les autorisations incombent aux personnes qui configurent et approuvent l’agent, et non à celle qui l’utilise ponctuellement lors d’une journée chargée. Un utilisateur peut choisir le moment de lancer une tâche, mais il ne peut pas voir tous les outils auxquels l’agent a accès. Un fournisseur peut proposer des paramètres par défaut, mais il ignore quelles actions votre organisation est prête à accepter. Le service informatique peut configurer les accès, mais il ne doit pas être le seul à prendre la décision métier.
Ce cours considère également la responsabilité comme étant personnelle et nominative. Un propriétaire humain désigné est une personne spécifique qui répond des actions autorisées de l’agent et de sa supervision. Cette responsabilité ne disparaît pas du fait que l’agent est « interne » ou qu’il s’exécute via un compte de service. Lorsqu’un agent effectue une action, quelqu’un doit être en mesure d’indiquer qui a approuvé ce périmètre d’action et dans quelles conditions.
Nous effectuerons une vérification rapide pour distinguer les configurations qui semblent sûres de celles qui le sont réellement.