Um sistema de chatbot com IA é mais do que um prompt e uma chamada de modelo: ele exige roteamento de solicitações, memória, recuperação de informações, estratégias de escalabilidade e mecanismos de fallback capazes de suportar o tráfego real. Este curso oferece uma abordagem acessível a iniciantes para compreender o sistema como um todo, desde a arquitetura inicial funcional até as decisões de compromisso (*trade-offs*) que determinam a latência, o custo e a confiabilidade. Ao final, o aluno será capaz de explicar e justificar um projeto prático de chatbot, considerando as restrições comuns de ambientes de produção.
O curso aborda a arquitetura central de chatbots, o fluxo de requisições de ponta a ponta, a memória de conversação, a geração aumentada por recuperação (RAG) com busca vetorial, o escalonamento da inferência e a confiabilidade em cenários de falha parcial. Também trata dos *trade-offs* relacionados a janelas de contexto, segmentação (*chunking*), recuperação *top-k*, processamento em lote (*batching*), cache, limites de taxa (*rate limits*), *timeouts*, tentativas de reexecução e fluxos de contingência (*fallback*).