Este curso trata sobre cómo decidir qué acciones puede realizar un agente de IA en el entorno laboral, basándose en las recomendaciones del Marco Modelo de Gobernanza de IA para IA Agéntica de la IMDA. Al finalizar, cualquier persona nueva en la materia debería ser capaz de tomar una decisión concreta: si un agente puede leer, escribir o ejecutar acciones en un sistema sin consultar previamente a un humano. Muchos equipos tratan los permisos de los agentes como una simple pantalla de configuración que se puede ajustar más adelante. La dificultad radica en que las decisiones sobre permisos determinan las capacidades del agente antes incluso de que se genere el primer resultado. El error surge al trasladar hábitos propios de las herramientas de chat, donde el sistema sugiere texto pero no ejecuta acciones.
La intervención de un agente no se limita al uso cotidiano; también está presente en las fases de configuración y aprobación. Alguien lo conecta a herramientas como el correo electrónico, sistemas de gestión de incidencias (ticketing) o portales de proveedores, mientras que otra persona aprueba dichas conexiones y las condiciones asociadas. Aunque estos pasos puedan parecer tareas de integración habituales, la decisión implica algo distinto: el agente puede realizar acciones que, una vez ejecutadas, resultan difíciles de revertir. Por ello, este curso insiste en una distinción sencilla: el chatbot propone, mientras que el agente actúa. A continuación, se presenta un resumen de los temas que aborda el curso:
Un agente de IA es un software capaz de planificar pasos y utilizar herramientas conectadas para completar una tarea con una interacción mínima. Mientras que un asistente suele generar texto para que una persona lo copie, un agente puede realizar el cambio directamente en otro sistema. Esta diferencia es importante porque una acción ejecutada puede perdurar más allá del chat que la originó. Se puede borrar un mensaje, pero no siempre es posible deshacer el envío de un correo electrónico o el cierre de un ticket. [fuentes][/fuentes]
Incluso cuando una acción es reversible, revertirla suele costar tiempo y afectar a la confianza. Un ticket reabierto tras la respuesta de un cliente sigue dando la impresión de que se ha perdido el hilo de la conversación. Un registro de proveedor corregido después de una actualización puede dejar un valor erróneo en la exportación de datos de alguien. Empezar con buen pie implica tratar los permisos como la primera decisión de diseño, y no como una última red de seguridad. [fuentes][/fuentes]
Las decisiones sobre permisos corresponden a las personas que configuran y aprueban el agente, no a quien lo utiliza en un momento de gran actividad. Un usuario puede decidir cuándo iniciar una tarea, pero no tiene visibilidad de todas las herramientas a las que el agente puede acceder. Un proveedor puede ofrecer configuraciones predeterminadas, pero desconoce qué acciones aceptará su organización. El departamento de TI puede gestionar los accesos, pero no debería ser el único lugar donde se tome la decisión empresarial. [fuentes][/fuentes]
Este curso también aborda la responsabilidad como algo personal y asignado a una persona concreta. Un propietario humano designado es la persona específica que responde de las acciones permitidas al agente y de su supervisión. Esta responsabilidad no desaparece porque el agente sea “interno” o porque se ejecute mediante una cuenta de servicio. Cuando un agente actúa, debe haber alguien capaz de indicar quién aprobó ese ámbito de actuación y bajo qué condiciones. [fuentes][/fuentes]
Realizaremos una breve comprobación para distinguir entre configuraciones que parecen seguras y aquellas que realmente lo son. [fuentes][/fuentes]