Este curso trata de agentes de IA capazes de realizar ações no seu ambiente de trabalho e utiliza o Model AI Governance Framework for Agentic AI (Estrutura de Governança de IA para IA com Capacidade de Agir) da IMDA como referência para as práticas recomendadas. O conteúdo é voltado para supervisores e gestores responsáveis que precisam definir o que o agente pode fazer, como ele será monitorado e em que momento uma pessoa deve intervir. Um erro comum é tratar o agente como um simples assistente de chat e focar apenas no que ele diz, quando a verdadeira mudança reside no que ele consegue realizar utilizando as ferramentas ao seu alcance. Essa lacuna se manifesta no dia a dia de formas sutis — como um agente encerrando um chamado, enviando um e-mail ou atualizando um registro — e os prejuízos costumam ser práticos antes de se tornarem críticos. O desafio não está em compreender os termos técnicos de IA, mas sim em estabelecer limites que se mantenham eficazes mesmo quando o agente está operando intensamente e a equipe está sob pressão.
Em uma implementação típica, a equipe ativa algumas integrações, define um objetivo para o agente e inclui uma etapa de revisão humana. Isso pode parecer um processo controlado, mas o controle real depende de a revisão ser efetiva, de haver possibilidade de interromper a ação e de a ação poder ser revertida. O curso concentra-se nessas escolhas, pois são decisões que um gestor pode tomar diretamente, sem precisar escrever código ou analisar textos jurídicos. O mapa abaixo apresenta uma visão geral do cenário completo antes de explorarmos os detalhes de cada componente.
Um agente de IA é um software capaz de decidir quais passos seguir e, em seguida, realizar ações utilizando ferramentas fornecidas a ele — como sistemas de chamados, e-mail, calendários ou bancos de dados internos. Já um assistente de chat é um software que gera texto para ser lido e utilizado por uma pessoa, mesmo que a qualidade desse texto seja excelente. Essa distinção é importante porque a execução de ações gera efeitos colaterais fora do ambiente de chat; isso significa que é necessário gerenciar permissões, aprovações e procedimentos de reversão (rollback), e não apenas a precisão das respostas. Quando se afirma que um agente é seguro por explicar seu raciocínio, trata-se apenas de uma narrativa visível sobre suas ações, e não de uma verificação do que foi efetivamente alterado.
Como supervisor ou gestor responsável, cabe a você exigir respostas claras sobre quem é o proprietário do agente, quais ferramentas ele pode utilizar e em quais situações ele deve recorrer a um humano. Você deve encarar o espaço de ação como o alcance do agente e a autonomia como a sua capacidade de tomada de decisão independente; ampliar ambos simultaneamente é o que faz com que as equipes percam a noção do que o agente é capaz de fazer. Antes do lançamento, você pode solicitar uma breve descrição das capacidades do agente, incluindo o que ele não pode fazer e o fluxo de escalonamento para quando esses limites forem atingidos. Durante a utilização, fique atento aos momentos em que as pessoas deixam de conferir as ações do agente por ele transmitir confiança, pois é nessas situações que ações inadequadas podem passar despercebidas.
Responder às perguntas a seguir ajudará você a identificar em que pontos suas práticas atuais em relação aos agentes já são adequadas e onde serão necessárias mudanças.