Este curso trata sobre el uso seguro de agentes de IA en las tareas cotidianas, tomando como referencia el Marco Modelo de Gobernanza de IA para IA Agéntica de la IMDA. Ayuda al personal, a los contratistas y a los equipos externos a tomar mejores decisiones sobre qué permitir que haga un agente, qué restringir y cuándo intervenir personalmente. Un error común es tratar al agente como un chatbot más inteligente, ya que ambos se comunican mediante texto y pueden sonar convincentes; sin embargo, esa suposición oculta la verdadera diferencia. Aunque la tarea parezca consistir simplemente en redactar buenas solicitudes, el resultado final depende de las acciones que se le permita ejecutar al agente tras ofrecer su respuesta.
Un agente de IA es un software capaz de realizar acciones en tu nombre —como crear un ticket, actualizar un registro, enviar un mensaje o ejecutar un flujo de trabajo— utilizando los permisos de acceso que se le han otorgado. Mientras que un asistente tipo chatbot se limita a responder y sugerir, un agente también puede ejecutar acciones. El uso seguro comienza en las rutinas habituales, como solicitar un borrador de correo electrónico, obtener un resumen de un informe o permitir que un agente abra y derive solicitudes; son precisamente estos momentos en los que pequeños permisos pueden transformarse silenciosamente en cambios reales dentro de los sistemas. Lo difícil no es detectar una respuesta errónea, sino identificar cuándo una tarea ha pasado de ser una simple recomendación a convertirse en una acción, permitiendo así supervisar el proceso antes de que se produzcan cambios difíciles de revertir.
Un uso seguro implica tratar al agente como a un compañero de trabajo con credenciales de acceso específicas, y no como a un simple buscador, ya que dichas credenciales determinan qué sistemas puede manipular. Al conocer el alcance de sus permisos, puedes establecer el nivel de supervisión adecuado, decidir qué acciones requieren aprobación y evitar que los datos privados lleguen a lugares donde no deben estar. El marco de la IMDA recomienda una clara responsabilidad humana y controles prácticos sobre las acciones de los agentes en las operaciones diarias; por ello, este curso se centra en las decisiones que tomas en el momento mismo de utilizarlos. A continuación, se describe la naturaleza del trabajo que aprenderás a identificar en tu propia rutina diaria:
Un agente conlleva riesgos específicos cuando sus acciones modifican algo fuera de la ventana de chat. Si un chatbot ofrece un resumen erróneo, puedes ignorarlo; pero si un agente envía un correo electrónico, cierra un caso, aprueba un acceso o publica un mensaje en un canal público, las consecuencias pueden propagarse antes de que alguien las revise. El hábito más seguro consiste en plantearse dos preguntas antes de ejecutarlo: a qué sistemas puede acceder y qué acciones suyas se pueden revertir rápidamente.
Tu función consiste en utilizar el agente según lo previsto y detenerte cuando un paso requiera criterio humano. Los propietarios y gestores de la herramienta definen los accesos, deciden qué tareas están permitidas y eligen qué información se registra, mientras que los proveedores suministran el producto y establecen sus limitaciones. Esta división de responsabilidades se mantiene incluso cuando se externaliza el trabajo, ya que los equipos de soporte externos suelen operar con amplios permisos de acceso; por ello, requieren los mismos límites claros, protocolos de escalado y asignación de responsabilidades que los empleados internos.
Gran parte de un uso seguro depende de pequeñas decisiones tomadas con rapidez, especialmente cuando el agente hace que el siguiente paso parezca automático. Esta evaluación no busca obtener una puntuación perfecta, sino identificar aquellas situaciones que tratas como una simple conversación con un chatbot, cuando en realidad implican una solicitud para realizar una acción en un sistema de trabajo.