Supervisionar agentes de IA no ambiente de trabalho significa manter a responsabilidade humana intacta enquanto o software atua em nome de alguém. Este curso baseia-se na Model AI Governance Framework for Agentic AI (Estrutura Modelo de Governança de IA para IA Agêntica) da Infocomm Media Development Authority (IMDA), que recomenda formas práticas de atribuir responsabilidades e garantir uma supervisão efetiva. A decisão que essa estrutura apoia é simples de definir, mas difícil de executar de forma consistente. Você decide quando um agente pode prosseguir, quando deve pausar para uma verificação e quando a tarefa deve ser repassada a um responsável designado. Esse trabalho se manifesta em situações cotidianas, como aprovar uma alteração no fluxo de trabalho, confiar no resultado gerado por um agente em um e-mail para um cliente ou permitir que ele atualize um registro compartilhado. A parte difícil não é apenas entender a ferramenta, mas acompanhar quem é o responsável quando as ações do agente afetam outras pessoas e sistemas.
Na abordagem da IMDA, os agentes diferem das IAs anteriores utilizadas no trabalho porque podem realizar ações, adaptar-se a novas informações e interagir com sistemas para concluir tarefas em nome de humanos. Essa mudança faz com que a supervisão deixe de ser uma revisão pontual e se torne uma prática contínua de trabalho, mesmo quando o agente é útil e bem-intencionado. A IMDA também ressalta a necessidade de equilíbrio, pois a supervisão humana contínua de todos os fluxos de trabalho torna-se inviável em grande escala. Portanto, o ponto de partida não é monitorar tudo, mas decidir quais ações são mais importantes, onde estabelecer pontos de verificação e quem pode intervir quando algo parecer fora do padrão. Esse mapa de decisões é o que o restante do curso irá detalhar, passo a passo. Vamos apresentar a estrutura dessas decisões antes de aprofundarmos o assunto.
Um agente de IA é um software capaz de planejar etapas e executar ações ao longo de várias interações para atingir um objetivo definido por você, como localizar informações, criar arquivos ou atualizar um sistema. Uma ferramenta de chat convencional, que você já conhece, geralmente apenas sugere textos para uso. Um agente vai além, pois pode realizar tarefas no ambiente de trabalho, e não apenas sugerir ações. Essa diferença é importante mesmo quando a interface parece idêntica, pois o impacto da atuação do agente pode persistir após o término da conversa.
A questão fundamental não é se o agente é inteligente, mas sim o que ele pode acessar e alterar com as permissões que lhe foram concedidas. Se um agente consegue ler uma agenda, redigir um e-mail e enviá-lo, trata-se de três ações distintas com três consequências diferentes. A supervisão começa tratando essas concessões de acesso como decisões deliberadas, e não apenas como configurações padrão da ferramenta.
Se você supervisiona um agente ou é o gestor responsável por ele, sua função é garantir que a responsabilidade permaneça vinculada a uma pessoa, mesmo quando o trabalho é delegado a um software. A estrutura de diretrizes da IMDA deixa claro que uma implementação confiável não depende apenas dos desenvolvedores, pois os usuários finais também precisam utilizar os agentes de forma responsável. Isso significa que você deve saber qual é a finalidade do agente, o que ele não deve fazer e como agir caso ele apresente um comportamento fora desses limites. Você não precisa ter criado o agente para exigir essas respostas.
Desenvolvedores, fornecedores e equipes de TI ainda possuem responsabilidades essenciais, especialmente no que diz respeito à concepção, aos testes, ao monitoramento e à integração do agente com outras ferramentas. Sua atuação ocorre em outra esfera: você define os parâmetros de uso aceitável em seu processo, verifica se a supervisão prevista está sendo efetivamente realizada e aciona instâncias superiores quando não há um responsável claro definido. Quando uma equipe não consegue identificar o responsável por um agente em um fluxo de trabalho, não se trata de uma falha de documentação, mas sim de uma falha de controle.
[fontes][/fontes]