Identifique os ataques, limites e controles que impedem um chatbot de vazar dados, realizar ações inadequadas ou esgotar o orçamento.
5 seções · 14 lições
Defina como o ShopEasy processa mensagens, chamadas de ferramentas e o histórico de chat e, em seguida, mapeie os principais riscos de segurança utilizando um modelo de ameaças simples.
2 liçõesCompare as principais formas pelas quais invasores manipulam as palavras, o contexto oculto, os dados, as ferramentas e o uso de recursos de um chatbot para causar danos.
6 liçõesAplique controles relacionados ao prompt e ao código que reduzam injeção, vazamento, uso indevido e abuso, observando ao mesmo tempo o que cada controle não consegue impedir isoladamente.
4 liçõesAvalie logs, alertas e verificações de *red team* que detectem autorizações não identificadas, e teste as correções após as alterações.
1 liçãoMapeie as ameaças para as defesas adequadas e utilize uma lista de verificação rápida para o ShopEasy antes do lançamento.
1 liçãoChatbots de IA podem responder a perguntas, acionar ferramentas e expor mais informações do que deveriam quando a segurança é fraca. Este curso mostra como um chatbot funciona, onde estão seus limites de confiança e como ataques comuns transformam uma conversa normal em roubo de dados, geração de conteúdo prejudicial, uso indevido de ferramentas ou custos excessivos. O curso é voltado para iniciantes que desejam compreender os riscos dos chatbots o suficiente para avaliar defesas, revisar projetos e identificar falhas antes do lançamento.
O curso aborda como um chatbot baseado em LLM utiliza o prompt do sistema, o histórico do chat, a entrada do usuário e ferramentas em um ciclo de solicitação, além do modelo fundamental de segurança composto por confidencialidade, integridade e disponibilidade. Em seguida, trata de tópicos como injeção de prompt, jailbreaking, vazamento de prompt, riscos à privacidade, uso indevido de ferramentas, negação de serviço, mecanismos de proteção (guardrails), proteção de dados, autorização, limites de taxa, monitoramento e red teaming.
De gerentes de projeto e profissionais de operações a fundadores, analistas e equipes que estão adotando IA, o Fenzo é para quem quer melhorar no trabalho que já faz.
Tudo, desde usar IA para planejar projetos e analisar dados até melhorar processos, tomada de decisão, comunicação e execução. Se você consegue descrever a habilidade ou a tarefa, o Fenzo pode criar um curso sobre ela.
Sim. Conte ao Fenzo o que você faz, o que quer alcançar e onde está travado, e ele adaptará o curso ao seu cargo, aos seus objetivos e ao trabalho que você realmente precisa fazer.
Não. O Fenzo se adapta ao seu ponto de partida: você pode começar pelo básico ou ir direto para tópicos mais avançados.
Sim. O Fenzo for Business reúne toda a sua equipe em uma única assinatura: licenças compartilhadas, cursos que você pode atribuir e relatórios sobre quem concluiu o quê.
Conheça o Fenzo for BusinessVocê começa descrevendo seu objetivo ou fazendo uma breve avaliação de habilidades. O Fenzo usa esse contexto para identificar suas lacunas e montar a experiência de aprendizado em torno delas.
Sim, o Fenzo funciona no navegador do seu celular.
Algo para interagir em cada seção.
Três descobertas de décadas de pesquisa sobre aprendizagem moldaram a construção de cada lição do Fenzo.
Taxa média de aprovação · Freeman et al., PNAS 2014
O que a ciência diz
Estudantes em aulas apenas expositivas têm 1,5× mais chances de reprovar.
Como o Fenzo faz
Toda lição do Fenzo é interativa. Nunca há leitura ou vídeo passivos.
Você faz por conta própriaA IA faz por você
Retenção de habilidades ao longo do tempo · com e sem prática
O que a ciência diz
Delegar o raciocínio à IA corrói justamente as habilidades que você quer desenvolver.
Como o Fenzo faz
O Fenzo faz você pensar — com orientação, mas nunca fazendo por você.
Prática de recuperaçãoReleitura
Memória de longo prazo · recuperação vs. releitura
O que a ciência diz
Recordar uma informação é melhor do que relê-la para construir uma compreensão duradoura.
Como o Fenzo faz
As lições incluem quizzes e perguntas de recordação para que o conteúdo fique.