Antes de construir agentes, vale entender a base: o que é um modelo,
como ele decide o próximo token, e como se treina, serve e opera isso em produção
(MLOps). Um passeio conceitual — sem exercício — até o ponto onde os agentes começam:
chat + RAG.
Um modelo de machine learning é uma função que aprendeu padrões
a partir de muitos exemplos. Em vez de ser programado com regras, ele ajusta
milhões (ou bilhões) de parâmetros — os "pesos" — até acertar bem uma tarefa.
📥
Entra um dado (texto, imagem…).
⚙️
Os pesos transformam esse dado.
📤
Sai uma previsão (uma classe, um número, a próxima palavra…).
💡
A grande virada dos LLMs
Um Large Language Model é um modelo treinado com uma tarefa
simples de enunciar e poderosa de dominar: dado um texto, preveja o próximo
pedaço de texto. Só isso — repetido em escala massiva — produz algo que parece
conversar, resumir e raciocinar.
A unidade
O modelo não pensa em palavras: pensa em tokens
Antes de entrar no modelo, o texto é quebrado em tokens —
pedaços de palavra. "gato" pode ser um token; "independente" pode virar dois ou três.
O modelo trabalha sempre com esses pedacinhos.
🔡
Por que isso importa
Tudo que o modelo faz é: olhar os tokens até aqui e prever o
próximo token. Preço de API, limite de contexto e velocidade também são
contados em tokens — não em palavras.
🧩 Texto → tokens
Ogatoéindependente 6 tokens — o modelo prevê o 7º, depois o 8º, e assim por diante.
Por dentro da previsão
Entrada → camadas ocultas → saída
entrada — os tokens "O gato é"camadas ocultas — onde os padrões vivemsaída — probabilidade de cada próximo token
O sinal flui da esquerda para a direita
através de milhões de conexões (os "pesos"). A intensidade que chega em cada nó de saída vira a
probabilidade daquele token — que a gente vê a seguir.
O coração do LLM · exemplo 1
Prevendo depois de "O gato é ___"
O gato é?
independente
22%
preto
17%
fofo
14%
esperto
11%
carnívoro
8%
meu melhor amigo
6%
…milhares de outros
22%
O modelo calcula uma probabilidade para cada token possível do vocabulário.
Depois amostra um — normalmente entre os mais prováveis. Note que "é" puxa
características (adjetivos, o que o gato é).
O coração do LLM · exemplo 2
Troque uma palavra: "O gato está ___"
O gato está?
dormindo
26%
com fome
16%
no telhado
13%
brincando
11%
miando
8%
assustado
6%
…milhares de outros
20%
Mesma frase, só mudou "é" → "está" — e a distribuição inteira muda:
agora vêm estados e lugares (o que o gato está fazendo/onde está), não características.
O modelo capturou a diferença de sentido entre os dois verbos sem nenhuma regra escrita —
só de ver bilhões de frases.
De um token a uma frase
Prever, amostrar, repetir
Uma resposta inteira é esse passo minúsculo repetido: o token que ele
acabou de escolher entra de volta no texto, e ele prevê o próximo. É por isso que o
texto aparece palavra a palavra na tela.
01 · LÊ
📖 Contexto
Olha todos os tokens até agora.
02 · PREVÊ
🎯 Distribuição
Calcula a probabilidade de cada próximo token.
03 · AMOSTRA
🎲 Escolhe
Sorteia um token (a "temperatura" regula a ousadia).
04 · ANEXA
🔁 Repete
Junta o token e volta ao passo 1, até terminar.
🌡️
Temperatura
Baixa = sempre o mais provável (previsível, factual). Alta = arrisca
tokens menos prováveis (criativo, mas mais "viagem"). É o mesmo modelo — muda só como ele amostra.
Duas fases
Treinar o modelo vs. usar o modelo
🏋️ Treino
Mostrar bilhões de exemplos e ajustar os pesos para prever melhor
o próximo token. É caro, demorado e feito poucas vezes. Produz um artefato: o modelo, com seus pesos.
⚡ Inferência
Usar o modelo já treinado para responder, agora. É o que acontece
a cada mensagem do chat. Rápido e repetido milhões de vezes — é aqui que mora o custo do dia a dia.
🎯 Fine-tuning
Pegar um modelo pronto e ajustá-lo um pouco para um domínio específico,
com bem menos dados que o treino original.
📚 RAG (spoiler)
Sem mexer nos pesos: dar ao modelo os documentos certos na hora
da pergunta. Chegamos lá no fim deste deck.
Colocar em produção
MLOps: o ciclo de vida do modelo
Um modelo num notebook não serve ninguém. MLOps é a disciplina de
levar modelos a produção e mantê-los saudáveis — versionando dados e modelos, automatizando
o deploy e monitorando para saber quando re-treinar.
🗃️
Dados
Coletar, versionar e preparar.
🏋️
Treino
Treinar / ajustar os pesos.
🧪
Avaliação
Medir qualidade e vieses.
🚀
Deploy
Servir como API de inferência.
📈
Monitorar
Detectar drift e degradação.
🔁
Re-treinar
Fechar o ciclo com dados novos.
🎩
No Red Hat OpenShift AI
Esse ciclo vira pipelines, model registry e model serving sobre
OpenShift — treinar, versionar e servir modelos com governança, no mesmo cluster onde
rodam os nossos agentes.
O modelo como serviço
Inferência vira um endpoint
Servido, o modelo é só uma API: você manda o texto (o "prompt"), ele
devolve os próximos tokens. Seu aplicativo não carrega o modelo — ele chama um
endpoint de inferência.
🔌
Um endpoint compatível com a API da OpenAI (padrão de mercado).
🏭
Models-as-a-Service: o modelo hospedado, pronto para consumo.
🎛️
Um AI Gateway na frente conta tokens, aplica cotas e filtra conteúdo.
🔎 Uma chamada, por dentro
Você envia → "O gato é" Modelo devolve → "independente" (o token mais amostrado)
No workshop, o chat dos agentes fala com um endpoint desses
(ex.: DeepSeek), e os embeddings do RAG com outro. É tudo inferência por trás de uma URL.
Subindo um degrau
Do modelo ao chat
Um chat é o mesmo "prevê o próximo token" — só que a gente monta o
contexto com esperteza: uma instrução de sistema (o papel) + o histórico
da conversa. O modelo continua só completando texto; a ilusão de diálogo vem do contexto.
💬
Ainda é previsão de token
"Assistente: …" é só mais texto para completar. Não há mágica de
memória embutida — o histórico é reenviado a cada vez. (Guardar esse histórico
de propósito é o que chamamos de memória, no próximo deck.)
🧱 O contexto de um chat
system Você é um assistente útil. user Qual a capital da França? assistant Paris. user E a população? → o modelo completa a próxima fala
O último degrau daqui
RAG: dar ao modelo os seus documentos
O modelo só sabe o que viu no treino — nada dos seus dados, nem do
que aconteceu depois. O RAG resolve sem re-treinar: busca trechos relevantes dos
seus documentos e os injeta no contexto antes do modelo prever a resposta.
🔎
Pergunta → busca os trechos mais parecidos (busca vetorial).
📎
Cola esses trechos no prompt, junto da pergunta.
✅
O modelo responde fundamentado na sua fonte — menos alucinação.
📚
Continua sendo o mesmo truque
RAG não muda os pesos do modelo. Ele só melhora o contexto
que entra antes daquela mesma previsão de próximo token. Contexto melhor, resposta melhor.
Onde este deck termina
Chegamos ao chat + RAG. A partir daqui, agentes.
✅ O que já entendemos
Modelo, tokens, previsão do próximo token,
treino × inferência, MLOps, o modelo como endpoint, e como chat e RAG são só contexto bem montado
em volta dessa previsão.
➡️ O que vem no próximo deck
Dar ao modelo memória que persiste,
ferramentas para agir (MCP) e autonomia para decidir. É quando o chatbot vira agente
— o tema de "Anatomia de um Agente".
🧭 A régua mental
Sempre que algo parecer mágico, volte à pergunta:
"qual é o próximo token, e que contexto ele recebeu?". Quase tudo se explica por aí.
🎯 Sem exercício
Este é um deck de base — nada a fazer no cluster.
A mão na massa começa no Exercício 1, com o seu agente.
Fundamentos prontos
É tudo próximo token — o resto é contexto
Com essa base, o workshop faz sentido de ponta a ponta: system prompt,
memória, RAG, ferramentas e autonomia são todas formas de dar melhor contexto
à mesma previsão. Bora subir as camadas.