Planejar, executar e reportar testes autorizados de *red team* em LLMs, mapeados para os riscos do OWASP Top 10.
4 seções · 8 lições
Defina o incidente, as regras de engajamento e o plano de teste que tornem a iniciativa de *red teaming* para LLMs autorizada, auditável e vinculada à cobertura da OWASP.
3 liçõesUtilize garak, PyRIT e promptfoo para executar testes de injeção de prompt direta e indireta, preservando evidências e a segurança.
1 liçãoAvalie os riscos relacionados a recuperação, memória, contexto, agente, uso de ferramentas e esgotamento de recursos, com a captura de evidências para as classes de falha mapeadas pela OWASP.
2 liçõesAnalise o tratamento de saídas e o comprometimento de dependências e, em seguida, transforme as descobertas em um relatório completo contendo gravidade, medidas de mitigação, etapas de reteste e orientações para a liberação.
2 liçõesEste curso avançado de *red teaming* começa com a classificação de um incidente real envolvendo LLMs com base nos critérios da OWASP. O foco recai sobre testes adversariais autorizados, voltados para equipes de segurança e profissionais de *red teaming* que necessitam de escopo definido, evidências e subsídios para decisões de lançamento de suas aplicações. Ao final, os participantes estarão aptos a estruturar um programa de testes, executar ataques controlados utilizando ferramentas comuns e transformar as descobertas em um relatório executivo contendo recomendações de remediação e orientações para a decisão de prosseguir ou não com o lançamento (*go/no-go*).
O curso aborda o planejamento de testes mapeados para a OWASP, regras de engajamento e casos de teste executáveis para uma aplicação LLM específica. Também cobre testes de *prompt injection* utilizando garak, PyRIT e promptfoo, além de classes de falha relacionadas a recuperação de informações, memória, agentes, tratamento de saídas e cadeia de suprimentos.
De gerentes de projeto e profissionais de operações a fundadores, analistas e equipes que estão adotando IA, o Fenzo é para quem quer melhorar no trabalho que já faz.
Tudo, desde usar IA para planejar projetos e analisar dados até melhorar processos, tomada de decisão, comunicação e execução. Se você consegue descrever a habilidade ou a tarefa, o Fenzo pode criar um curso sobre ela.
Sim. Conte ao Fenzo o que você faz, o que quer alcançar e onde está travado, e ele adaptará o curso ao seu cargo, aos seus objetivos e ao trabalho que você realmente precisa fazer.
Não. O Fenzo se adapta ao seu ponto de partida: você pode começar pelo básico ou ir direto para tópicos mais avançados.
Sim. O Fenzo for Business reúne toda a sua equipe em uma única assinatura: licenças compartilhadas, cursos que você pode atribuir e relatórios sobre quem concluiu o quê.
Conheça o Fenzo for BusinessVocê começa descrevendo seu objetivo ou fazendo uma breve avaliação de habilidades. O Fenzo usa esse contexto para identificar suas lacunas e montar a experiência de aprendizado em torno delas.
Sim, o Fenzo funciona no navegador do seu celular.
Algo para interagir em cada seção.
Três descobertas de décadas de pesquisa sobre aprendizagem moldaram a construção de cada lição do Fenzo.
Taxa média de aprovação · Freeman et al., PNAS 2014
O que a ciência diz
Estudantes em aulas apenas expositivas têm 1,5× mais chances de reprovar.
Como o Fenzo faz
Toda lição do Fenzo é interativa. Nunca há leitura ou vídeo passivos.
Você faz por conta própriaA IA faz por você
Retenção de habilidades ao longo do tempo · com e sem prática
O que a ciência diz
Delegar o raciocínio à IA corrói justamente as habilidades que você quer desenvolver.
Como o Fenzo faz
O Fenzo faz você pensar — com orientação, mas nunca fazendo por você.
Prática de recuperaçãoReleitura
Memória de longo prazo · recuperação vs. releitura
O que a ciência diz
Recordar uma informação é melhor do que relê-la para construir uma compreensão duradoura.
Como o Fenzo faz
As lições incluem quizzes e perguntas de recordação para que o conteúdo fique.