Supervisar agentes de IA en el entorno laboral implica mantener intacta la responsabilidad humana mientras el software actúa en nombre de alguien. Este curso se basa en el Marco Modelo de Gobernanza de IA para IA Agéntica de la Infocomm Media Development Authority (IMDA), el cual recomienda formas prácticas de asignar responsabilidades y garantizar una supervisión efectiva. La decisión que este marco respalda es fácil de enunciar, pero difícil de ejecutar de manera constante: determinar cuándo un agente puede proceder, cuándo debe detenerse para una verificación y cuándo debe transferirse la tarea a un responsable designado. Esta labor se manifiesta en situaciones cotidianas, como aprobar un cambio en el flujo de trabajo, confiar en el resultado generado por un agente para un correo electrónico a un cliente o permitirle actualizar un registro compartido. La dificultad no radica únicamente en comprender la herramienta, sino en tener claro quién asume la responsabilidad cuando las acciones del agente afectan a otras personas y sistemas.
Según el enfoque de la IMDA, los agentes se distinguen de las versiones anteriores de IA laboral porque tienen capacidad para ejecutar acciones, adaptarse a nueva información e interactuar con sistemas para completar tareas en nombre de los humanos. Este cambio transforma la supervisión: deja de ser una revisión puntual para convertirse en una forma de trabajo continua, incluso cuando el agente resulta útil y opera con buenas intenciones. La IMDA también señala la necesidad de encontrar un equilibrio, ya que la supervisión humana constante de cada flujo de trabajo resulta inviable a gran escala. Por tanto, el punto de partida no consiste en vigilarlo todo, sino en decidir qué acciones son más relevantes, dónde establecer puntos de control y quién puede intervenir si algo parece anómalo. El resto del curso irá completando este mapa de decisiones paso a paso. Definamos la naturaleza de estas decisiones antes de profundizar en el tema.
Un agente de IA es un software capaz de planificar pasos y ejecutar acciones a lo largo de varias interacciones para alcanzar un objetivo establecido por usted, como buscar información, crear archivos o actualizar un sistema. Una herramienta de chat convencional se limita principalmente a proponer texto para que usted lo utilice. Un agente va más allá, ya que puede realizar acciones concretas en el entorno de trabajo, no solo sugerirlas. Esta diferencia es relevante incluso cuando la interfaz parece idéntica, dado que el impacto de las acciones del agente puede perdurar más allá de la propia conversación.
La cuestión fundamental no es si el agente es inteligente, sino a qué elementos puede acceder y qué puede modificar con los permisos que se le han otorgado. Si un agente puede consultar un calendario, redactar un correo electrónico y enviarlo, estamos ante tres acciones distintas con tres consecuencias diferentes. La supervisión comienza por tratar dichas concesiones de permisos como decisiones deliberadas, y no simplemente como configuraciones predeterminadas de la herramienta.
Si usted supervisa un agente o es el responsable directo de su gestión, su función consiste en garantizar que la responsabilidad recaiga sobre una persona cuando el trabajo se delega en un software. El marco de trabajo de la IMDA establece claramente que una implementación fiable no depende únicamente de los desarrolladores, ya que los usuarios finales también deben utilizar los agentes de manera responsable. Esto implica que usted debe conocer cuál es la función prevista del agente, qué acciones tiene prohibidas y cómo proceder si el agente actúa fuera de esos límites. No es necesario haber creado el agente para exigir respuestas a estas cuestiones.
Los creadores, proveedores y equipos de TI siguen teniendo responsabilidades fundamentales, especialmente en lo relativo al diseño, las pruebas, la supervisión y la integración del agente con otras herramientas. Su ámbito de actuación es distinto: usted define los criterios de uso aceptable dentro de sus procesos, verifica que la supervisión prevista se esté llevando a cabo realmente y escala la situación cuando no existe un responsable claro. Cuando un equipo no puede identificar quién es el responsable de un agente en un flujo de trabajo, no se trata de una simple falta de documentación, sino de una carencia en los mecanismos de control.
[fuentes][/fuentes]