Aplicativos de chat com IA parecem simples à primeira vista, mas latência, crescimento do contexto, limites de taxa e tentativas de reexecução rapidamente os transformam em desafios de projeto de sistemas. Este curso apresenta, de forma acessível a iniciantes, as decisões fundamentais por trás de um serviço de chat com IA, enfatizando como essas escolhas impactam a capacidade de resposta, o custo e a correção do sistema. Ao final, você será capaz de explicar a arquitetura de um chat de pequeno porte, identificar a origem de atrasos e da duplicação de processamento, e justificar escolhas práticas de design em cenários de alta carga.
O curso aborda um serviço de chat básico, latência de ponta a ponta em um turno de streaming, armazenamento de conversas e montagem de contexto, limitação de taxa (rate limiting), contratos de API, idempotência e testes de estresse sob condições de falha. O foco recai sobre as decisões de arquitetura que moldam o comportamento de chats com IA de baixa latência.