Mapear ameaças a LLMs para controles, testes e monitoramento no contexto do OWASP Top 10, voltado para defensores.
4 seções · 9 lições
Defina os sinais de comprometimento de uma aplicação LLM e mapeie-os para o OWASP Top 10, ao mesmo tempo em que estabelece a meta de contenção imediata.
1 liçãoCompare a injeção de prompt com riscos correlatos e, em seguida, selecione controles, testes e mecanismos de monitoramento para divulgação, contexto oculto, capacidade de ação (agency) e tratamento de saídas.
3 liçõesRastreie ameaças em modelos, prompts, conjuntos de dados, plugins, ambientes de execução, treinamento, ajuste fino, RAG e ciclos de feedback; em seguida, defina a verificação, a validação e o monitoramento de desvio (drift).
2 liçõesAvalie o abuso de consumo, as vulnerabilidades de RAG e a desinformação; em seguida, realize uma revisão mapeada para a OWASP, incluindo testes e runbooks de monitoramento.
3 liçõesO comprometimento de um LLM em ambiente de produção raramente se resume a uma única falha; trata-se de uma cadeia de sintomas que precisa ser rapidamente associada à categoria correta da OWASP. Este curso oferece a equipes de segurança e engenheiros de IA/ML uma perspectiva de defesa sobre os principais padrões de ameaças em aplicações de LLM e IA, apresentando abordagens práticas para contenção, endurecimento (hardening), validação e monitoramento. Ao final, os participantes serão capazes de classificar ataques, selecionar controles para interrompê-los e avaliar sistemas de LLM sob uma ótica de segurança consistente e replicável.
O curso aborda *prompt injection*, divulgação de informações sensíveis, exposição de contexto oculto, autonomia excessiva, tratamento inadequado de saídas, riscos na cadeia de suprimentos, envenenamento de dados e modelos, consumo ilimitado, vulnerabilidades em vetores e *embeddings*, e desinformação. Também abrange verificação, testes, sinais de monitoramento e um fluxo de trabalho de revisão mapeado para o OWASP, voltado a avaliações de segurança de LLMs.
De gerentes de projeto e profissionais de operações a fundadores, analistas e equipes que estão adotando IA, o Fenzo é para quem quer melhorar no trabalho que já faz.
Tudo, desde usar IA para planejar projetos e analisar dados até melhorar processos, tomada de decisão, comunicação e execução. Se você consegue descrever a habilidade ou a tarefa, o Fenzo pode criar um curso sobre ela.
Sim. Conte ao Fenzo o que você faz, o que quer alcançar e onde está travado, e ele adaptará o curso ao seu cargo, aos seus objetivos e ao trabalho que você realmente precisa fazer.
Não. O Fenzo se adapta ao seu ponto de partida: você pode começar pelo básico ou ir direto para tópicos mais avançados.
Sim. O Fenzo for Business reúne toda a sua equipe em uma única assinatura: licenças compartilhadas, cursos que você pode atribuir e relatórios sobre quem concluiu o quê.
Conheça o Fenzo for BusinessVocê começa descrevendo seu objetivo ou fazendo uma breve avaliação de habilidades. O Fenzo usa esse contexto para identificar suas lacunas e montar a experiência de aprendizado em torno delas.
Sim, o Fenzo funciona no navegador do seu celular.
Algo para interagir em cada seção.
Três descobertas de décadas de pesquisa sobre aprendizagem moldaram a construção de cada lição do Fenzo.
Taxa média de aprovação · Freeman et al., PNAS 2014
O que a ciência diz
Estudantes em aulas apenas expositivas têm 1,5× mais chances de reprovar.
Como o Fenzo faz
Toda lição do Fenzo é interativa. Nunca há leitura ou vídeo passivos.
Você faz por conta própriaA IA faz por você
Retenção de habilidades ao longo do tempo · com e sem prática
O que a ciência diz
Delegar o raciocínio à IA corrói justamente as habilidades que você quer desenvolver.
Como o Fenzo faz
O Fenzo faz você pensar — com orientação, mas nunca fazendo por você.
Prática de recuperaçãoReleitura
Memória de longo prazo · recuperação vs. releitura
O que a ciência diz
Recordar uma informação é melhor do que relê-la para construir uma compreensão duradoura.
Como o Fenzo faz
As lições incluem quizzes e perguntas de recordação para que o conteúdo fique.