Você vai implementar um programa mínimo e auditável de governança e gestão de riscos de IA, capaz de ser escalado por toda a sua organização em 2026.
Utilizaremos um único modelo operacional e uma organização de exemplo, a NorthBridge Credit Union, para que todas as lições subsequentes se baseiem na mesma estrutura, em vez de começarmos do zero.
Ao final deste curso, você deverá ser capaz de identificar um pequeno conjunto de artefatos dinâmicos e apontar quem é o responsável por cada um, onde as evidências estão armazenadas e com que frequência são revisadas.
Um gerente de riscos da NorthBridge Credit Union pergunta a uma equipe de suporte como eles estão lidando com o acúmulo de chamados.
Um atendente responde que eles copiam e colam as conversas com clientes em um chatbot gratuito baseado na web para elaborar respostas, e que o RH tem utilizado outra ferramenta para triar currículos mais rapidamente.
Ninguém sabe dizer quem aprovou essas ferramentas, quais dados foram compartilhados, se os resultados gerados são usados para a tomada de decisões ou se existem registros (logs) que mostrem o que aconteceu.
Comece pelas evidênciasAntes de definir políticas e estruturas, registre o que está acontecendo, onde e com quais dados.
O uso de IA não aprovada refere-se a qualquer utilização de um sistema de IA para atividades profissionais que não possua um responsável registrado, uma finalidade documentada ou controles acordados.
Isso se torna um risco porque cria uma exposição que você não consegue visualizar nem comprovar que está sendo gerenciada.
Na NorthBridge, os cenários comuns incluem dados saindo de sistemas aprovados, conexões não oficiais que extraem ou enviam dados e funcionários utilizando resultados da IA como se fossem decisões validadas.
Vamos visualizar onde esses pontos de exposição geralmente ocorrem nos fluxos de trabalho do dia a dia.
Governança auditável significa que é possível rastrear desde um requisito ou política até um processo repetível, passando por registros que demonstram a execução do processo e chegando ao responsável que o revisa ao longo do tempo.
Para a NorthBridge, os resultados defensáveis assemelham-se a um ciclo integrado e ágil, em vez de um grande acúmulo de documentos.
A seguir, veremos como esses artefatos se apresentam na prática para a NorthBridge.