Concevoir et superviser l’autonomie d’un agent implique de déterminer à quel moment un logiciel peut agir en votre nom et à quel moment il doit s’arrêter pour demander une validation. Ce cours s’appuie sur le cadre de gouvernance de l’IA (Model AI Governance Framework) pour l’IA autonome (ou « agentique ») de l’Infocomm Media Development Authority (IMDA), qui recommande des pratiques pour un déploiement responsable de cette technologie. Une erreur courante consiste à assimiler un agent à un chatbot amélioré, simplement parce que tous deux communiquent en langage naturel et peuvent paraître très assurés. La complexité réside dans le fait qu’un agent modifie le monde réel via des outils et des systèmes, alors qu’un chatbot se contente généralement de modifier ce qui s’affiche à l’écran. C’est cette différence qui fait de l’autonomie une décision de conception, et non un simple paramètre à choisir une fois pour toutes.
Dans le travail quotidien, les agents interviennent dans des tâches routinières telles que la rédaction de réponses aux clients, la préparation de rapports ou la mise à jour de tickets. Les équipes commencent souvent par donner à l’agent accès aux mêmes outils qu’un humain, pour ensuite découvrir que de petits choix s’accumulent pour produire des résultats concrets, l’agent étant capable d’enchaîner plusieurs étapes sans interruption. Ce qui importe, ce n’est pas tant la qualité du modèle que le niveau d’autonomie, le champ d’action, les limites, les points de contrôle, les tests, la surveillance, la transparence envers l’utilisateur et les procédures d’escalade ; ce sont ces leviers qui déterminent ce que l’agent peut réellement accomplir. La carte mentale ci-dessous illustre la structure de ces décisions avant d’entrer dans les détails.
Un agent est un logiciel capable de planifier et d’exécuter des actions en plusieurs étapes pour atteindre un objectif que vous avez fixé, souvent en utilisant des outils tels que la recherche, la création de fichiers ou la mise à jour de systèmes. Un assistant peut adopter un comportement similaire à celui d’un agent lors d’une conversation, mais il n’est pas considéré comme un agent dans le cadre de ce cours à moins de pouvoir accomplir des tâches allant au-delà de la simple génération de texte ou de suggestions. L’autonomie correspond à la capacité de l’agent à prendre des décisions par lui-même une fois l’objectif et le contexte définis. L’espace d’action désigne ce à quoi l’agent a accès, c’est-à-dire les outils, les données et les systèmes qu’il peut manipuler. Ces deux décisions sont distinctes ; c’est pourquoi les affirmations « nous lui avons donné un accès en lecture seule » et « il a choisi de le faire lui-même » renvoient à des situations différentes.
Il n’est pas nécessaire de gérer l’intégralité du programme de gouvernance pour utiliser des agents en toute sécurité, car vos choix déterminent les limites auxquelles l’agent se heurtera au quotidien. Vous êtes responsable des aspects pratiques liés à l’utilisation : ce que vous déléguez, ce que vous vérifiez et ce que vous interdisez à l’agent d’effectuer sans en référer à nouveau à vous. Les concepteurs sont responsables de l’ingénierie et des tests de l’agent, tandis que les responsables de la sécurité gèrent le contrôle des accès, la journalisation et la réponse aux incidents. Les responsables de la gouvernance définissent les attentes de l’organisation, mais ils ont besoin de vos retours, car ils ne peuvent pas appréhender tous les flux de travail dans lesquels un agent sera utilisé. Lorsque les rôles deviennent flous, la responsabilité le devient également ; c’est pourquoi ce cadre met l’accent sur une répartition claire des responsabilités tout au long du cycle de vie de l’agent.
Choisissez l’option que vous privilégieriez en premier ; cela révélera votre modèle mental par défaut.