Este curso trata sobre agentes de IA capaces de realizar acciones en su entorno laboral y toma como referencia las prácticas recomendadas del Model AI Governance Framework for Agentic AI (Marco modelo de gobernanza de IA para IA con capacidad de acción) de la IMDA. Está dirigido a supervisores y gerentes responsables que deben decidir qué acciones tiene permitido realizar un agente, cómo se supervisa su actividad y en qué momento debe intervenir una persona. Un error común es tratar al agente como a un asistente de chat y centrarse únicamente en lo que dice, cuando el verdadero cambio radica en lo que puede hacer mediante las herramientas a las que tiene acceso. Esta discrepancia se manifiesta en las tareas cotidianas de formas sutiles —como cuando un agente cierra un ticket, envía un correo electrónico o actualiza un registro— y los perjuicios suelen ser de índole práctica antes de volverse críticos. La dificultad no reside en comprender la terminología de la IA, sino en establecer límites que se mantengan firmes incluso cuando el agente está ocupado y el personal trabaja bajo presión.
En una implementación típica, un equipo habilita unas pocas integraciones, asigna un objetivo al agente y añade una nota para que un humano pueda revisarla. Aunque esto parece una situación controlada, el control real depende de si la revisión es efectiva, de si alguien puede detener la acción y de si es posible revertirla. El curso se centra en estas cuestiones, ya que son decisiones que un gerente puede tomar directamente, sin necesidad de programar ni de consultar textos legales. El siguiente esquema muestra el panorama general antes de analizar cada una de las partes.
Un agente de IA es un software capaz de determinar los pasos a seguir y ejecutar acciones utilizando las herramientas que se le proporcionan, como sistemas de gestión de incidencias, correo electrónico, calendarios o bases de datos internas. Un asistente de chat es un software que genera texto para que una persona lo lea y lo utilice, aunque dicho texto sea de gran calidad. Esta distinción es importante porque la ejecución de acciones genera efectos fuera del chat; esto implica gestionar permisos, aprobaciones y mecanismos de reversión, y no limitarse únicamente a garantizar la precisión de la información. Cuando se afirma que un agente es seguro porque explica su razonamiento, en realidad se está haciendo referencia a una narrativa visible sobre sus acciones, no a una verificación de los cambios que ha realizado efectivamente. [fuentes][/fuentes]
Como supervisor o responsable a cargo, usted debe exigir respuestas claras sobre quién es el propietario del agente, qué herramientas puede utilizar y en qué situaciones debe consultar a un humano. Debe considerar el ámbito de acción como el alcance operativo del agente y la autonomía como su capacidad de decisión independiente; ampliar ambos aspectos simultáneamente provoca que los equipos pierdan la noción de las capacidades reales del agente. Antes del lanzamiento, puede solicitar una breve descripción de sus capacidades que incluya las limitaciones del agente y el procedimiento de escalado a seguir cuando alcance dichos límites. Durante su uso, debe prestar atención a los momentos en que los usuarios dejan de supervisar el sistema debido a la seguridad que transmite el agente, ya que es entonces cuando pueden producirse acciones erróneas sin ser detectadas. [fuentes][/fuentes]
Responder a las siguientes preguntas le permitirá identificar en qué aspectos encajan sus prácticas actuales con el uso de agentes y en cuáles será necesario realizar cambios. [fuentes][/fuentes]