Este curso aborda o uso seguro de agentes de IA no ambiente de trabalho, tendo como referência a estrutura de governança de IA da IMDA (Model AI Governance Framework for Agentic AI). Ele auxilia funcionários, contratados e equipes terceirizadas a tomar decisões melhores sobre o que permitir que um agente faça, o que restringir e quando envolver uma pessoa. Um erro comum é tratar o agente como um chatbot mais inteligente, já que ambos se comunicam por texto e podem transmitir confiança. Essa suposição mascara a verdadeira diferença. O trabalho pode parecer apenas uma questão de elaborar boas solicitações (prompts), mas o resultado depende do que o agente tem permissão para fazer após fornecer a resposta.
Um agente de IA é um software capaz de realizar ações em seu nome — como criar um chamado, atualizar um registro, enviar uma mensagem ou executar um fluxo de trabalho — utilizando os acessos que lhe foram concedidos. Enquanto um chatbot assistente fornece respostas e sugestões, um agente também é capaz de executar tarefas. O uso seguro começa em rotinas comuns, como solicitar um rascunho de e-mail, obter um resumo de relatório ou permitir que o agente abra e encaminhe solicitações; são nesses momentos que pequenas permissões se transformam, silenciosamente, em alterações reais nos sistemas. A dificuldade não está em identificar uma resposta ruim, mas em perceber quando uma tarefa deixa de ser apenas uma recomendação e passa a ser uma ação executada, permitindo a supervisão antes que ocorram mudanças difíceis de reverter.
O uso seguro implica tratar o agente como um colega de trabalho que possui um crachá de acesso, e não apenas como uma barra de busca, pois é esse crachá que define o que ele pode manipular. Ao compreender as permissões associadas a esse “crachá”, você pode definir o nível adequado de verificação, decidir o que exige aprovação e evitar que dados privados cheguem a locais indevidos. A estrutura da IMDA recomenda uma clara responsabilidade humana e controles práticos sobre as ações dos agentes nas operações diárias; por isso, este curso concentra-se nas decisões que você toma no momento em que utiliza essas ferramentas. Veja a seguir como esse trabalho se manifesta no seu dia a dia:
Um agente apresenta riscos de uma maneira muito específica: quando sua ação altera algo fora da janela de chat. Se um chatbot fornecer um resumo incorreto, você pode simplesmente ignorá-lo; mas, se um agente enviar um e-mail, encerrar um chamado, aprovar um acesso ou publicar algo em um canal público, os efeitos podem se propagar antes que alguém os revise. O hábito mais seguro é fazer duas perguntas antes de executá-lo: a quais sistemas ele tem acesso e quais de suas ações podem ser revertidas rapidamente?
Sua função é utilizar o agente conforme previsto e interromper o processo quando uma etapa exigir julgamento humano. Os proprietários da ferramenta e os gestores definem os acessos, decidem quais tarefas são permitidas e escolhem o que será registrado (logs), enquanto os fornecedores disponibilizam o produto e estabelecem suas limitações. Essa divisão de responsabilidades também se aplica à terceirização de serviços, uma vez que equipes de suporte terceirizadas frequentemente operam com níveis elevados de acesso; portanto, elas precisam dos mesmos limites claros, fluxos de escalonamento e atribuição de responsabilidade individual que os funcionários internos.
O uso seguro depende, em grande parte, de pequenas decisões tomadas rapidamente, especialmente quando o agente faz com que a próxima etapa pareça automática. Esta avaliação não visa obter uma pontuação perfeita. O objetivo é identificar situações que você trata como uma conversa comum com um chatbot, mas que, na verdade, envolvem a execução de ações em sistemas de trabalho.