Ce cours porte sur l’utilisation sécurisée des agents d’IA dans le cadre du travail quotidien, en s’appuyant sur le cadre de gouvernance de l’IA de l’IMDA (IMDA Model AI Governance Framework for Agentic AI) comme référence. Il aide les employés, les prestataires et les équipes externalisées à prendre de meilleures décisions : quelles tâches confier à un agent, lesquelles garder sous contrôle humain et quand faire intervenir une personne. Une erreur courante consiste à considérer un agent comme un simple chatbot plus intelligent, car tous deux communiquent par texte et peuvent paraître très assurés. Cette supposition occulte la véritable différence. Si le travail semble se limiter à rédiger de bonnes requêtes, le résultat dépend en réalité de ce que l’agent est autorisé à faire après avoir répondu.
Un agent d’IA est un logiciel capable d’effectuer des actions en votre nom — comme créer un ticket, mettre à jour un enregistrement, envoyer un message ou exécuter un flux de travail — grâce aux accès qui lui ont été accordés. Alors qu’un chatbot assistant se contente de répondre et de suggérer, un agent peut également agir. Une utilisation sécurisée commence par des tâches courantes, comme demander la rédaction d’un e-mail, obtenir un résumé de rapport ou laisser un agent ouvrir et acheminer des demandes ; c’est en effet à ces moments-là que de simples autorisations se transforment discrètement en changements concrets au sein des systèmes. La difficulté ne réside pas tant dans l’identification d’une mauvaise réponse que dans la capacité à repérer le moment où une tâche passe du stade du conseil à celui de l’action, afin d’assurer une supervision avant qu’il ne devienne difficile d’annuler les opérations effectuées.
Une utilisation sécurisée implique de considérer l’agent comme un collègue muni d’un badge d’accès, et non comme une simple barre de recherche, car ce badge détermine les éléments sur lesquels il peut intervenir. En connaissant les droits associés à ce badge, vous pouvez choisir le niveau de vérification approprié, décider quelles actions nécessitent une approbation et éviter que des données privées ne se retrouvent là où elles n’ont pas leur place. Le cadre de l’IMDA préconise une responsabilité humaine claire et des contrôles pratiques concernant les actions des agents au quotidien ; c’est pourquoi ce cours se concentre sur les décisions que vous prenez au moment même de leur utilisation. Voici la nature du travail que ce cours vous aidera à identifier dans votre propre quotidien :
Un agent présente un risque particulier lorsque ses actions modifient des éléments en dehors de la fenêtre de discussion. Si un chatbot fournit un résumé erroné, vous pouvez l’ignorer ; en revanche, si un agent envoie un e-mail, clôture un dossier, approuve un accès ou publie un message sur un canal public, les conséquences peuvent se propager avant même qu’une vérification humaine n’ait lieu. La pratique la plus sûre consiste à se poser deux questions avant de le lancer : à quels systèmes peut-il accéder et quelles actions peut-on annuler rapidement ?
Votre rôle consiste à utiliser l’agent conformément à sa finalité et à interrompre le processus lorsqu’une étape requiert un jugement humain. Les responsables de l’outil et les managers définissent les accès, les tâches autorisées et les éléments à consigner, tandis que les fournisseurs fournissent le produit et en déterminent les limites. Cette répartition des rôles reste valable en cas d’externalisation : les équipes de support externes disposent souvent de droits d’accès étendus et doivent donc, tout comme les employés, respecter des limites claires, suivre des procédures d’escalade définies et assumer une responsabilité individuelle.
Une utilisation sûre repose souvent sur une série de décisions rapides, surtout lorsque l’agent donne l’impression que l’étape suivante est automatique. L’objectif de cette évaluation n’est pas d’obtenir un score parfait, mais de prendre conscience des situations que vous traitez comme une simple conversation avec un chatbot, alors qu’il s’agit en réalité d’une demande d’action au sein d’un système de travail.