Implemente controles práticos para saídas prejudiciais de LLMs utilizando filtragem, limites, revisão humana e evidências prontas para auditoria.
3 seções · 8 lições
Defina como surgem as saídas prejudiciais de LLMs e, em seguida, elabore uma taxonomia de danos e níveis de gravidade que tornem as regras de moderação mensuráveis e auditáveis.
2 liçõesProjete a filtragem de entrada, recuperação e saída; em seguida, defina limites de moderação e encaminhe casos incertos para filas de revisão humana, com registro de logs e escalonamento.
3 liçõesAvalie a cobertura de segurança de conteúdo por meio de testes adversariais, colete as evidências de políticas e logs exigidas pelos auditores e mantenha os controles ajustados à medida que ocorrerem desvios.
3 liçõesSaídas prejudiciais de LLMs tornam-se um problema de segurança quando deixam de ser erros isolados e passam a ser modos de falha previsíveis, que as equipes podem modelar e controlar. Este curso oferece a equipes de segurança e engenheiros de IA/ML meios para definir conteúdo prejudicial, implementar controles de filtragem e revisão, ajustar decisões de moderação e gerar evidências de que esses controles funcionam. Ao final, os participantes serão capazes de abordar a segurança de conteúdo como uma disciplina de segurança operacional, e não apenas como um recurso de moderação.
O curso aborda a modelagem de ameaças para saídas prejudiciais de LLMs, taxonomias de danos específicas da organização e filtragem em defesa em profundidade nos fluxos de entrada, recuperação e saída. Também abrange classificadores de moderação, definição de limites (thresholds), filas de revisão humana, testes adversariais, documentação de conformidade e o ajuste contínuo dos controles.
De gerentes de projeto e profissionais de operações a fundadores, analistas e equipes que estão adotando IA, o Fenzo é para quem quer melhorar no trabalho que já faz.
Tudo, desde usar IA para planejar projetos e analisar dados até melhorar processos, tomada de decisão, comunicação e execução. Se você consegue descrever a habilidade ou a tarefa, o Fenzo pode criar um curso sobre ela.
Sim. Conte ao Fenzo o que você faz, o que quer alcançar e onde está travado, e ele adaptará o curso ao seu cargo, aos seus objetivos e ao trabalho que você realmente precisa fazer.
Não. O Fenzo se adapta ao seu ponto de partida: você pode começar pelo básico ou ir direto para tópicos mais avançados.
Sim. O Fenzo for Business reúne toda a sua equipe em uma única assinatura: licenças compartilhadas, cursos que você pode atribuir e relatórios sobre quem concluiu o quê.
Conheça o Fenzo for BusinessVocê começa descrevendo seu objetivo ou fazendo uma breve avaliação de habilidades. O Fenzo usa esse contexto para identificar suas lacunas e montar a experiência de aprendizado em torno delas.
Sim, o Fenzo funciona no navegador do seu celular.
Algo para interagir em cada seção.
Três descobertas de décadas de pesquisa sobre aprendizagem moldaram a construção de cada lição do Fenzo.
Taxa média de aprovação · Freeman et al., PNAS 2014
O que a ciência diz
Estudantes em aulas apenas expositivas têm 1,5× mais chances de reprovar.
Como o Fenzo faz
Toda lição do Fenzo é interativa. Nunca há leitura ou vídeo passivos.
Você faz por conta própriaA IA faz por você
Retenção de habilidades ao longo do tempo · com e sem prática
O que a ciência diz
Delegar o raciocínio à IA corrói justamente as habilidades que você quer desenvolver.
Como o Fenzo faz
O Fenzo faz você pensar — com orientação, mas nunca fazendo por você.
Prática de recuperaçãoReleitura
Memória de longo prazo · recuperação vs. releitura
O que a ciência diz
Recordar uma informação é melhor do que relê-la para construir uma compreensão duradoura.
Como o Fenzo faz
As lições incluem quizzes e perguntas de recordação para que o conteúdo fique.