Diseñar y supervisar la autonomía de un agente implica decidir cuándo el software puede actuar en tu nombre y en qué punto debe detenerse y consultar. Este curso se basa en el Marco de Gobernanza de IA (Modelo) para IA Agéntica de la Infocomm Media Development Authority (IMDA), el cual recomienda prácticas para implementar IA agéntica de manera responsable. Un error común es tratar a un agente simplemente como un chatbot mejorado, ya que ambos se comunican en lenguaje natural y pueden transmitir seguridad al hablar. La complejidad radica en que un agente modifica el entorno mediante herramientas y sistemas, mientras que un chatbot altera principalmente lo que se visualiza en pantalla. Esa distinción convierte a la autonomía en una decisión de diseño, y no en una configuración que se elige una sola vez.
En el trabajo cotidiano, los agentes intervienen en tareas rutinarias, como redactar respuestas a clientes, elaborar informes o actualizar tickets. Los equipos suelen comenzar otorgando al agente acceso a las mismas herramientas que utiliza una persona, para luego descubrir que pequeñas decisiones se acumulan y generan resultados tangibles, dado que el agente puede ejecutar múltiples pasos de forma continua. Lo verdaderamente relevante no es la calidad del modelo en sí, sino factores como el nivel de autonomía, el ámbito de acción, los límites, los puntos de control, las pruebas, la supervisión, la transparencia para el usuario y los protocolos de escalado; estos son los elementos que determinan la capacidad real de actuación del agente. El siguiente mapa mental ilustra la estructura de dichas decisiones antes de profundizar en los detalles.
Un agente es un software capaz de planificar y ejecutar acciones en múltiples pasos para alcanzar un objetivo establecido por ti, a menudo utilizando herramientas como funciones de búsqueda, creación de archivos o actualizaciones del sistema. Un asistente puede comportarse de manera similar a un agente durante una conversación, pero en este curso no se considera un agente a menos que pueda realizar acciones más allá de generar texto o sugerencias. La autonomía se refiere al grado en que el agente toma decisiones por sí mismo una vez que se le ha proporcionado el objetivo y el contexto. El espacio de acción define el alcance permitido para el agente, es decir, a qué herramientas, datos y sistemas puede acceder. Estas dos decisiones son independientes; por ello, afirmar “solo le dimos acceso de lectura” es algo distinto a decir “decidió hacerlo por su cuenta”.
No es necesario gestionar el programa de gobernanza en su totalidad para utilizar agentes de forma segura, ya que tus decisiones determinan los límites operativos con los que se encuentra el agente en el día a día. Tú decides sobre los aspectos prácticos en el punto de uso, como qué tareas delegas, qué vas a supervisar y qué acciones no permitirás que el agente realice sin consultarte previamente. Los desarrolladores se encargan de la ingeniería y las pruebas del agente, mientras que los responsables de seguridad gestionan el control de acceso, el registro de actividades y la respuesta ante incidentes. Los responsables de gobernanza definen las expectativas de la organización, pero requieren tu aportación, ya que no pueden conocer todos los flujos de trabajo en los que se utilizará un agente. Cuando los roles se difuminan, también lo hace la rendición de cuentas; por esta razón, el marco de trabajo enfatiza la necesidad de una responsabilidad clara a lo largo de todo el ciclo de vida del agente.
Elige la opción que ejecutarías en primer lugar, ya que esto revela tu modelo mental predeterminado.