Uma fintech de médio porte opera um chatbot de suporte ao cliente baseado em RAG (Retrieval-Augmented Generation), capaz de extrair trechos de manuais operacionais internos e de chamados anteriores. Um cliente insere uma mensagem que parece uma dúvida comum sobre faturamento, mas que contém uma instrução embutida orientando o modelo a revelar diretrizes internas de escalonamento e, em seguida, a resumi-las para o usuário. O modelo atende à solicitação, e o chatbot retorna um conteúdo que nunca deveria ter sido divulgado externamente. Essa é a falha que estamos prevenindo neste curso, no qual LLM01 Prompt Injection é o ponto de entrada e LLM02 Sensitive Information Disclosure (Divulgação de Informações Sensíveis) é o impacto.
O resultado imediato da Lição 1 é o desenvolvimento de um hábito de classificação confiável. A partir da transcrição de uma interação com o chatbot, devemos ser capazes de identificar a causa raiz como LLM01 (ou algo correlato) e prever quais outras categorias do OWASP provavelmente estarão envolvidas na mesma cadeia de incidentes; isso nos permite projetar controles em camadas, em vez de soluções pontuais isoladas. O próximo elemento visual ilustra o caminho que vai da injeção até a divulgação, em nível de sistema, permitindo-nos fundamentar as futuras medidas de mitigação em um fluxo concreto.
O OWASP Top 10 para Aplicações LLM 2026 é uma lista classificada de dez modos de falha comuns em aplicações baseadas em LLM. Nós o utilizaremos como linguagem comum para requisitos, modelagem de ameaças, testes e relatórios ao longo deste programa. A lista completa inclui: LLM01 Injeção de Prompt (Prompt Injection), LLM02 Divulgação de Informações Sensíveis, LLM03 Agência Excessiva, LLM04 Cadeia de Suprimentos, LLM05 Envenenamento de Dados e Modelos, LLM06 Consumo Ilimitado, LLM07 Desinformação, LLM08 Exposição de Contexto Oculto, LLM09 Vulnerabilidades de Vetores e Embeddings e LLM10 Tratamento Inadequado de Saída.
Este curso aborda diretamente o LLM01 Injeção de Prompt de ponta a ponta, incluindo injeção direta e indireta, controles de defesa em profundidade e como testá-los. Ele também trata diretamente de LLM02 Divulgação de Informações Sensíveis, LLM03 Agência Excessiva, LLM08 Exposição de Contexto Oculto e LLM10 Tratamento Inadequado de Saída, pois são impactos subsequentes frequentes ou fatores de amplificação em arquiteturas reais. Tratamos os itens restantes como dependências adjacentes; ou seja, faremos referência a eles quando uma escolha de controle para LLM01 criar exposição em outra área, ou quando seu programa precisar definir limites sobre o que está fora do escopo de uma determinada revisão. Utilize o próximo widget para visualizar a lista completa e entender quais tópicos são abordados com maior profundidade neste programa.