Roteiro: (1) o LLM como dependência e os cinco componentes de IA e agentes; (2) custo e latência de uma requisição; (3) LLM gateway; (4) agentes, ferramentas e MCP; (5) RAG e memória; (6) segurança, avaliação e observabilidade. Exemplo condutor: o assistente de suporte da BoxOffice.
Deixe a turma listar as falhas primeiro. Destaque que nenhuma delas é um problema de aprendizado de máquina: latência, capacidade, custo, consistência e segurança são problemas de projeto de sistemas.
O diagrama passo a passo "Como eles se ligam ao resto do sistema" da visão geral desenha a mesma figura, com o Kafka refazendo os embeddings do catálogo e a telemetria do gateway.
Percorra o diagrama de sequência da página de visão geral. Pergunte: para onde vai o tempo? Resposta: para as três rodadas de chamada de ferramentas antes da resposta final, não para a resposta.
Reembolso do show de sábado vs de domingo: vetores quase idênticos, respostas diferentes. Timestamp no topo do prompt de sistema é o destruidor clássico do cache de prompt.
Os números são os da tabela de custo da visão geral, chamada a chamada. O assistente do lab 12 faz a quarta chamada sem ferramentas, então o limite de passos termina com uma resposta.
A mesma tabela está na página de visão geral, com links para as subpáginas e o catálogo de componentes.