LLM103 · Trabalhando com APIs de LLMs
Sobre o curso
Aprenda a enviar requisições a APIs de LLMs em Python, gerenciar conversas, transmitir respostas em streaming, tratar erros e limites de taxa e manter os custos previsíveis.
Para quem é
Desenvolvedores que já dominam o básico de Python e querem integrar modelos de linguagem hospedados ou locais às próprias aplicações.
Pré-requisitos
LLM102 ou experiência equivalente em Python, incluindo JSON e requisições HTTP.
O que você será capaz de fazer
- Montar uma requisição de chat com mensagens de sistema, usuário e assistente e interpretar a resposta e o uso de tokens
- Implementar streaming e novas tentativas com espera exponencial para erros de limite de taxa e de servidor
- Estimar o custo mensal de uma funcionalidade baseada em API a partir de tokens e volume de requisições
- Escrever um pequeno wrapper independente de provedor, capaz de alternar entre uma API hospedada e um modelo local
Aulas
- Aula 1 · Anatomia de uma requisição a uma API de LLM
- Aula 2 · Streaming, erros, novas tentativas e limites de taxa
- Aula 3 · Custo, conversas e escolha de provedor
- Aula 4 · Laboratório e atividade
Laboratório: Um cliente de LLM reutilizável com novas tentativas e controle de custo
Você vai construir um pequeno cliente em Python que envia requisições de chat, transmite respostas em streaming, tenta novamente em erros temporários e registra o uso de tokens de cada requisição. O mesmo código vai rodar em uma API hospedada de nível gratuito e em um modelo local servido pelo Ollama por meio do endpoint compatível com OpenAI.
Ferramentas gratuitas: Google Colab ou VS Code, o nível gratuito da API Gemini no Google AI Studio e o Ollama com um modelo aberto pequeno no seu computador
Atividade avaliada
Use seu cliente para construir um "redator de respostas" de linha de comando para uma pequena empresa de climatização: ele lê o e-mail de um cliente de um arquivo, envia junto com uma mensagem de sistema que define o tom e o horário de atendimento e mostra um rascunho de resposta. Ofereça um modo de várias trocas que mantém o histórico dentro de um orçamento de tokens. Inclua uma estimativa de custo para 500 e-mails por mês com base no uso registrado e nos preços publicados pelo provedor, e explique como você mudaria para o modelo local.
| Critério | Peso | Como é um trabalho excelente |
|---|---|---|
| Integração funcionando | 30% | O redator roda em pelo menos um provedor, produz rascunhos coerentes e lida bem com chave ausente ou falha de rede. |
| Recursos de confiabilidade | 25% | Novas tentativas com espera, tempo limite e streaming estão corretos, e só são repetidos erros seguros de repetir. |
| Gestão de conversa e tokens | 20% | O histórico é cortado ou resumido para respeitar um orçamento declarado, e a abordagem é explicada. |
| Análise de custo | 25% | A estimativa mensal usa tokens reais registrados, preços atuais com a data da consulta e uma fórmula clara. |
Peça de portfólio
Um cliente de LLM reutilizável em Python e uma ferramenta de rascunho de respostas, com registros de uso e uma estimativa de custo mensal documentada.
Próximo passo
Continue com LLM104 · Design de prompts e saídas estruturadas para desenvolvedores · 6 horas · R$ 60,00
Conteúdo do curso
LLM103 · Trabalhando com APIs de LLMs (6 h)
-
Aula 1 · Anatomia de uma requisição a uma API de LLM
-
Aula 2 · Streaming, erros, novas tentativas e limites de taxa
-
Aula 3 · Custo, conversas e escolha de provedor
-
Aula 4 · Laboratório e atividade
-
LLM103 Avaliação · Trabalhando com APIs de LLMs