Entenda como os jailbreaks contornam as medidas de segurança e construa defesas em camadas e mensuráveis para aplicações de LLM em produção.
4 seções · 12 lições
Defina *jailbreaks*, diferencie-os de *prompt injection* e examine como o treinamento de segurança molda o comportamento do modelo e quais são seus limites em sistemas implantados.
2 liçõesAnalise a definição de persona, a escalada em múltiplos turnos, os contextos de *many-shot*, os sufixos adversariais, a ofuscação e as entradas multimodais como vias distintas para contornar as salvaguardas do modelo.
6 liçõesDesenvolva mecanismos de detecção com base em heurísticas, classificadores e telemetria e, em seguida, combine monitoramento, limitação de taxa, treinamento de segurança e outros controles para criar uma proteção em camadas.
2 liçõesAvalie a resistência utilizando métodos seguros e documentados e aplique os resultados a um projeto de chatbot público, com controles operacionais e testes de regressão.
2 liçõesO *jailbreaking* testa se uma aplicação baseada em LLM pode ser levada além de seus limites de segurança planejados, gerando riscos para usuários, organizações e sistemas voltados ao público. Este curso oferece a desenvolvedores de nível intermediário, engenheiros de ML e profissionais de segurança uma estrutura clara para analisar mecanismos de *jailbreak*, reconhecer suas limitações e aplicar defesas em camadas. Você aprenderá métodos práticos de detecção, avaliação responsável e endurecimento (*hardening*) de chatbots, sem divulgar instruções que possam ser exploradas.
O curso aborda os limites do treinamento de segurança, ataques de persona e de múltiplos turnos, contextos de *many-shot*, sufixos adversariais, ofuscação e entradas multimodais. Também trata de detecção, defesas em camadas, avaliação responsável de resistência e endurecimento operacional para chatbots públicos.
De gerentes de projeto e profissionais de operações a fundadores, analistas e equipes que estão adotando IA, o Fenzo é para quem quer melhorar no trabalho que já faz.
Tudo, desde usar IA para planejar projetos e analisar dados até melhorar processos, tomada de decisão, comunicação e execução. Se você consegue descrever a habilidade ou a tarefa, o Fenzo pode criar um curso sobre ela.
Sim. Conte ao Fenzo o que você faz, o que quer alcançar e onde está travado, e ele adaptará o curso ao seu cargo, aos seus objetivos e ao trabalho que você realmente precisa fazer.
Não. O Fenzo se adapta ao seu ponto de partida: você pode começar pelo básico ou ir direto para tópicos mais avançados.
Sim. O Fenzo for Business reúne toda a sua equipe em uma única assinatura: licenças compartilhadas, cursos que você pode atribuir e relatórios sobre quem concluiu o quê.
Conheça o Fenzo for BusinessVocê começa descrevendo seu objetivo ou fazendo uma breve avaliação de habilidades. O Fenzo usa esse contexto para identificar suas lacunas e montar a experiência de aprendizado em torno delas.
Sim, o Fenzo funciona no navegador do seu celular.
Algo para interagir em cada seção.
Três descobertas de décadas de pesquisa sobre aprendizagem moldaram a construção de cada lição do Fenzo.
Taxa média de aprovação · Freeman et al., PNAS 2014
O que a ciência diz
Estudantes em aulas apenas expositivas têm 1,5× mais chances de reprovar.
Como o Fenzo faz
Toda lição do Fenzo é interativa. Nunca há leitura ou vídeo passivos.
Você faz por conta própriaA IA faz por você
Retenção de habilidades ao longo do tempo · com e sem prática
O que a ciência diz
Delegar o raciocínio à IA corrói justamente as habilidades que você quer desenvolver.
Como o Fenzo faz
O Fenzo faz você pensar — com orientação, mas nunca fazendo por você.
Prática de recuperaçãoReleitura
Memória de longo prazo · recuperação vs. releitura
O que a ciência diz
Recordar uma informação é melhor do que relê-la para construir uma compreensão duradoura.
Como o Fenzo faz
As lições incluem quizzes e perguntas de recordação para que o conteúdo fique.