LLM101 · Como funcionam os grandes modelos de linguagem

Uma introdução clara e sem matemática pesada a como os grandes modelos de linguagem são treinados, como transformam texto em tokens e previsões e de onde vêm seus pontos fortes e limites.

Explorar · 4 horas · 4 aulas, um laboratório, uma atividade avaliada e uma peça de portfólio

Para quem é

Profissionais e desenvolvedores iniciantes que querem um modelo mental sólido sobre LLMs antes de construir aplicações com eles.

Pré-requisitos

Não é necessária experiência prévia com programação ou machine learning.

O que você será capaz de fazer

• Descrever em linguagem simples as etapas de pré-treinamento, ajuste fino e ajuste por preferências
• Estimar a quantidade de tokens e o uso da janela de contexto em um documento real de negócio
• Explicar como a temperatura e as configurações de amostragem mudam a saída do modelo
• Identificar pelo menos três modos de falha, como alucinação e conhecimento desatualizado, e uma mitigação para cada um

Aulas

• Aula 1 · Do texto aos tokens e às previsões
• Aula 2 · Como os modelos são treinados e ajustados
• Aula 3 · Contexto, amostragem e limites
• Aula 4 · Laboratório e atividade

Laboratório: Tokens, contexto e amostragem na prática

Você vai tokenizar textos reais de negócio, comparar a contagem de tokens entre idiomas e observar como as probabilidades do próximo token de um modelo aberto pequeno mudam com a temperatura. O objetivo é enxergar na prática a mecânica vista nas aulas, ainda sem construir uma aplicação.

Ferramentas gratuitas: Google Colab (gratuito) com a biblioteca aberta tiktoken e um modelo aberto pequeno do Hugging Face

Atividade avaliada

Escreva um material explicativo de duas páginas chamado "Como o nosso assistente de IA funciona de verdade" para o dono de um pequeno negócio sem formação técnica, como a gestora de uma clínica odontológica. Explique tokens, janela de contexto, etapas de treinamento e amostragem usando exemplos do seu notebook. Inclua uma tabela com três modos de falha, um exemplo realista de cada um nesse negócio e uma mitigação prática. Mantenha o tom preciso e sem exageros.

Peça de portfólio

Um texto explicativo em linguagem simples sobre o funcionamento dos LLMs, acompanhado do notebook do Colab com contagens de tokens e experimentos de amostragem reais.

No seu ritmo, com 12 meses de acesso. Dúvidas são respondidas por escrito pelo painel do aluno. Ao concluir o curso, você recebe um registro de conclusão.