Projetar e supervisionar a autonomia de agentes significa decidir quando o software pode agir em seu nome e em que pontos ele deve parar e solicitar orientação. Este curso baseia-se na Model AI Governance Framework for Agentic AI (Estrutura Modelo de Governança de IA para IA Agêntica) da Infocomm Media Development Authority, que recomenda práticas para a implementação responsável de IA agêntica. Um erro comum é tratar um agente como se fosse apenas um chatbot melhor, visto que ambos se comunicam em linguagem natural e podem transmitir confiança. O desafio reside no fato de que um agente altera o mundo real por meio de ferramentas e sistemas, enquanto um chatbot modifica principalmente o que é exibido na tela. É essa diferença que torna a autonomia uma decisão de design, e não apenas uma configuração definida uma única vez.
No dia a dia de trabalho, os agentes surgem em tarefas rotineiras, como redigir respostas a clientes, elaborar relatórios ou atualizar chamados. As equipes frequentemente começam concedendo ao agente acesso às mesmas ferramentas utilizadas por humanos, para então descobrirem que pequenas decisões se acumulam e geram resultados concretos, uma vez que o agente é capaz de executar múltiplas etapas sem interrupções. O mapa que realmente importa não é a qualidade do modelo em si, mas sim o nível de autonomia, o escopo de ação, os limites, os pontos de verificação, os testes, o monitoramento, a transparência para o usuário e os processos de escalonamento; são esses os fatores determinantes do que o agente pode efetivamente realizar. O mapa mental abaixo ilustra a estrutura dessas decisões, antes de entrarmos em detalhes.
Um agente é um software capaz de planejar e executar ações em múltiplas etapas para alcançar um objetivo definido por você, frequentemente utilizando ferramentas como busca, criação de arquivos ou atualizações de sistema. Um assistente pode apresentar comportamento semelhante ao de um agente durante uma conversa, mas não é considerado um agente neste curso a menos que possa realizar algo além de produzir texto ou sugestões. A autonomia refere-se ao grau de decisão própria do agente, uma vez fornecidos o objetivo e o contexto. O espaço de ação define o alcance permitido ao agente, ou seja, quais ferramentas, dados e sistemas ele pode acessar. Essas duas decisões são distintas; por isso, afirmar “demos a ele apenas acesso de leitura” é diferente de dizer “ele escolheu fazer isso por conta própria”.
Você não precisa ser o responsável por todo o programa de governança para utilizar agentes com segurança, pois suas escolhas determinam os limites operacionais diários que o agente encontrará. Cabe a você decidir questões práticas no ponto de uso, como o que delegar, o que verificar e o que não permitir que o agente faça sem uma nova consulta. Os desenvolvedores são responsáveis pela engenharia e pelos testes do agente, enquanto os responsáveis pela segurança cuidam do controle de acesso, do registro de logs e da resposta a incidentes. Os responsáveis pela governança definem as expectativas da organização, mas ainda precisam da sua contribuição, pois não conseguem visualizar todos os fluxos de trabalho onde um agente será utilizado. Quando os papéis se tornam difusos, a responsabilidade também fica menos clara; por isso, a estrutura enfatiza a necessidade de responsabilidades bem definidas ao longo de todo o ciclo de vida do agente.
Escolha a opção que você adotaria primeiro, pois isso revela o seu modelo mental padrão.