A aprovação da implementação de IA é o momento em que uma organização decide permitir que um sistema de IA atue no mundo real, utilizando dados reais e impactando pessoas reais. Este curso trata de como tornar essa aprovação responsável, permitindo que um executivo, líder de programa ou responsável pelo orçamento decida quando aprovar, quando pausar e quais evidências solicitar. Um erro grave é tratar a responsabilidade (accountability) como algo que um fornecedor pode fornecer ou que fica a cargo apenas da equipe jurídica, pois a decisão de aprovação em si estabelece as condições com as quais todos terão de lidar posteriormente. Uma aprovação que parece apenas uma formalidade comercial muitas vezes acaba definindo uma escolha de modelo operacional; por isso, essa tarefa cabe aos tomadores de decisão, e não apenas aos especialistas.
A aprovação responsável ocorre nos fluxos de trabalho cotidianos, não apenas em lançamentos de grande repercussão. Uma equipe apresenta uma proposta de uso, um fornecedor apresenta alegações e a área de negócios impõe restrições de tempo e orçamento. O responsável pela aprovação define os mecanismos de supervisão, o que será registrado, o que será monitorado e o que acontecerá caso algo dê errado — mesmo que esses detalhes sejam redigidos por outras pessoas. Isso também se aplica a sistemas já em operação, nos quais a questão é saber se o uso atual ainda condiz com o que foi aprovado. Visualizar o fluxo de trabalho completo desde o início é útil, pois as lições posteriores associarão perguntas específicas a pontos determinados desse processo.
A estrutura completa do fluxo de trabalho de aprovação está representada no mapa mental abaixo.
Uma equipe diz que está adquirindo uma ferramenta de análise de dados (analytics), outra diz que é um chatbot e uma terceira afirma que se trata de automação. Na prática, você está lidando com um sistema de IA sempre que a ferramenta recebe dados de entrada do seu ambiente e gera resultados que moldam uma decisão, uma recomendação ou uma ação. Isso é importante no momento da aprovação, pois o mesmo processo de aquisição pode ocultar comportamentos muito distintos, e o responsável pela aprovação precisa identificar quando uma “funcionalidade” envolve, na verdade, a tomada de decisões.
Considere uma ferramenta de gestão de despesas que sinaliza solicitações para revisão, um sistema de triagem de contratações que classifica candidatos ou um assistente de suporte que elabora rascunhos de respostas para os atendentes enviarem. Cada um deles pode alterar os resultados para a equipe ou para os clientes, mesmo que um ser humano clique no botão final. A questão para a aprovação não é se a IA aparece no material de marketing, mas onde ela se encaixa no processo e o que pode influenciar uma vez conectada às operações reais.
Um fornecedor pode apresentar documentos e garantias, mas não pode tomar a decisão de aprovação por você. A decisão de permitir o uso do sistema, definir o escopo de sua operação e estabelecer as condições de supervisão e monitoramento cabe a você. Também cabe a você decidir exigir evidências, pois uma aprovação baseada apenas em declarações de confiança tende a falhar quando surge o primeiro caso atípico (edge case).
As equipes de entrega e de gestão de riscos continuam desempenhando um trabalho essencial, e essa separação de funções é útil. Elas podem realizar testes, elaborar controles e conduzir a due diligence, apresentando a você opções com trade-offs (vantagens e desvantagens) claros. Sua função é formalizar essas opções no registro de aprovação, de modo que, posteriormente, seja possível verificar o que foi aprovado, quais premissas foram adotadas e o que exigiria uma nova aprovação.
A verificação a seguir aborda os instintos que norteiam uma decisão de aprovação segura, antes mesmo de entrarem em cena quaisquer detalhes jurídicos.