Você está iniciando um turno e a fila de alertas já contém três alertas relacionados a IA, acompanhados de uma pontuação de triagem gerada pela própria IA. Sua tarefa nesta etapa é estabelecer uma posição inicial rápida e fundamentada para cada alerta. Isso envolve definir uma classificação de trabalho, identificar as evidências mínimas a serem verificadas na telemetria subjacente e declarar claramente os pontos de incerteza. Este curso trata a IA como uma fonte de informações para o analista, e não como uma autoridade decisória; a responsabilidade pela decisão final permanece com você.
Uma boa maneira de encarar este curso é pensar na construção de um modelo mental replicável para lidar com incidentes em sistemas de IA. O modelo começa com uma categoria de risco específica, associa-a ao componente do sistema que pode estar falhando e termina com as evidências capazes de confirmar ou descartar essa hipótese. Avançaremos com calma nesta etapa inicial, pois o restante do curso depende da consistência dessa arquitetura, especialmente quando a fila de alertas estiver sobrecarregada.
Começaremos praticando a triagem inicial de cada alerta. Concentre-se no que você verificaria primeiro e em quais evidências seriam necessárias antes de aceitar a direção sugerida pela IA. Em seguida, mapearemos essas escolhas para as categorias do OWASP Top 10 for LLM Applications 2026, garantindo que nossas classificações tenham o mesmo significado para toda a equipe. Vamos realizar juntos a primeira série de decisões de triagem.
O OWASP Top 10 for LLM Applications 2026 é uma lista, desenvolvida pela comunidade, das dez categorias de risco mais críticas para aplicações que utilizam grandes modelos de linguagem (LLMs). Essa lista é útil na resposta a incidentes, pois fornece nomes padronizados para identificar o que falhou, mesmo quando os sintomas parecem diferentes. Quando um chamado (ticket) indica LLM02 ou LLM06, todos devem visualizar imediatamente o mesmo tipo de falha e o mesmo tipo de evidência a ser buscada.
Aqui estão as dez categorias que utilizaremos ao longo do curso, com suas numerações e nomes exatos.
Este curso aborda todas as dez categorias sob a perspectiva da resposta a incidentes. Você aprenderá a identificar a categoria provável durante a triagem, quais dados de telemetria geralmente respondem às perguntas principais e como costumam ser a contenção e a remediação quando o sistema inclui um LLM e componentes de suporte, como recuperação de informações (retrieval), ferramentas e memória. Em seguida, associaremos cada categoria aos pontos de contato da resposta a incidentes onde se espera a produção de evidências. Utilize o mapa para conectar a categoria ao fluxo de trabalho.