A Fronteira

A última parada do arco que começou com os mínimos quadrados em 1805. Esta aula não tem lab. O centro dela é um mapa do campo: todas as técnicas das 26 aulas anteriores, agrupadas pelo trabalho que fazem, ao lado das técnicas que ficam logo além desta disciplina, cada uma com a aula em que foi vista e onde ler mais. Em volta do mapa: como o transfer learning e os modelos de fundação mudaram a economia do machine learning, onde a caixa de ferramentas clássica que você construiu ainda vence e os problemas que o campo ainda não resolveu.

A aula segue quatro etapas, desenhadas abaixo: 1. mapear o campo, todas as técnicas da disciplina num só desenho, ao lado do que fica além dela; 2. reusar, não recomeçar, transfer learning e modelos de fundação; 3. onde o clássico vence, a caixa de ferramentas dentro da pilha nova e os problemas que ainda são dela; 4. o que vem depois, os problemas em aberto e para onde ir a partir daqui. Cada etapa leva à sua seção; nos slides, uma faixa embaixo mostra em que etapa você está.

Mapear o campocada técnica pelo trabalho que faz; quatro caminhos
Reusar, não recomeçartransfer learning, fine-tuning, modelos de fundação, prompts
Onde o clássico vencea caixa de ferramentas dentro da pilha nova, tabelas, roteamento
O que vem depoisproblemas em aberto, para onde ir a partir daqui

Slides

Clique nos slides e use as setas ← → para navegar; F abre em tela cheia e Esc mostra todos os slides. Abrir os slides numa aba nova

Um mapa do campo

Etapa 1. As técnicas estão agrupadas pela pergunta que respondem: preparar os dados, achar estrutura sem rótulos, transformar texto em números, prever com retas, vizinhos, árvores ou redes, medir com honestidade, explicar, automatizar, operar. Mais dois grupos guardam o que esta disciplina não alcançou: outros formatos de problema (sequências, recomendações, recompensas, grafos) e a própria fronteira. As fichas cheias foram vistas aqui (o número indica a aula); as fichas tracejadas ficam além. Clique em uma técnica para ver o que ela é, no que se apoia, o que se apoia nela e onde ler mais.

Como ler o mapa

As ligações entre as fichas são o que o mapa tem de mais útil. Quatro caminhos por ele:

A geração aumentada por recuperação (RAG) apoia-se no k-NN e nos embeddings densos. Uma ideia de 1951 (votar entre os pontos mais próximos) e uma de 2013 (palavras como vetores) formam a metade de busca de um sistema de 2020.
O alinhamento (RLHF) treina um modelo de recompensa sobre pares de respostas: a probabilidade de a resposta A ser preferida à resposta B é modelada como \(\sigma(r_A - r_B)\), a sigmoide de uma diferença de escores. Isso é uma regressão logística, ajustada com a mesma entropia cruzada que você minimizou na aula de regressão logística.
A avaliação de sistemas de LLM apoia-se nas métricas de classificação e em validação cruzada e vazamento. Um benchmark cujas perguntas vazaram para os dados de treino é o mesmo erro que um scaler ajustado antes da divisão, em escala de internet.
Os modelos de fundação tabulares são o único ponto em que a fronteira ataca de frente o reduto do gradient boosting. Eles são discutidos mais abaixo.

O mesmo mapa, como lista

Todos os nós do mapa, agrupados do mesmo jeito. Esta lista é a fonte do mapa: funciona sem JavaScript e na impressão. marca a aula em que a técnica foi vista, marca o que fica além desta disciplina, marca onde ler (primeiro um artigo clássico, depois um recurso moderno).

Fundamentos — o que é aprender com dados

Uma história das máquinas que aprendem — Dos mínimos quadrados (1805) ao perceptron, dois invernos da IA, o deep learning e os LLMs: cada onda recombina ideias antigas com mais dados e mais computação.
1. Introdução & História · Turing (1950) · Sutton, "The Bitter Lesson" (2019)
Paradigmas de aprendizado — Supervisionado (aprende com rótulos), não supervisionado (acha estrutura), por reforço (aprende com recompensas): o paradigma decorre do retorno que os dados trazem.
2. O panorama de ML · Hastie, Tibshirani & Friedman (2009) · James et al. (2023)
Generalização e no free lunch — O que importa é o erro em dados que o modelo não viu; nenhum algoritmo vence em todo problema: as suposições precisam combinar com os dados. Apoia-se em paradigmas de aprendizado.
2. O panorama de ML · Wolpert (1996) · Domingos (2012)

Dados — dos registros brutos a uma matriz pronta para o modelo

Análise exploratória de dados — Olhe antes de modelar: distribuições, valores faltantes, outliers, associações. Divida primeiro e explore só a parte de treino.
3. Análise Exploratória de Dados · Anscombe (1973) · Matejka & Fitzmaurice (2017)
Pré-processamento — Escalonar atributos numéricos, codificar categorias, transformar colunas assimétricas e imputar valores faltantes, sempre ajustando só nos dados de treino. Apoia-se em EDA.
4. Pré-processamento de Dados · Little & Rubin (2019) · scikit-learn: pré-processamento
Pipelines — Encadeiam o pré-processamento e o modelo em um único estimador, para que todo ajuste aconteça dentro da divisão certa. Apoia-se em pré-processamento.
5. Pipelines · Buitinck et al. (2013) · scikit-learn: pipelines
IA centrada em dados e qualidade dos rótulos — Dados melhores muitas vezes valem mais que um modelo melhor: achar erros de rótulo, remover duplicatas, documentar como o conjunto foi coletado. Apoia-se em EDA.
além desta disciplina · Northcutt, Athalye & Mueller (2021) · Gebru et al. (2021)

Aprendizado não supervisionado — estrutura sem rótulos

PCA — Gira os dados para as direções de maior variância e guarda as primeiras, para comprimir, tirar ruído ou plotar. Apoia-se em pré-processamento.
6. Redução de Dimensionalidade · Pearson (1901) · Jolliffe & Cadima (2016)
t-SNE e UMAP — Mapas não lineares que mantêm perto os vizinhos de cada ponto, para enxergar dados de alta dimensão; as distâncias entre os grupos dizem pouco. Apoia-se em PCA, k-NN.
6. Redução de Dimensionalidade · van der Maaten & Hinton (2008) · McInnes, Healy & Melville (2018)
k-means — Divide as linhas em k grupos compactos em torno de centroides; k se escolhe pela inércia e pela silhueta. Apoia-se em pré-processamento.
7. Agrupamento · Lloyd (1982) · Arthur & Vassilvitskii (2007)
Agrupamento hierárquico — Funde os grupos mais próximos um passo de cada vez e lê o resultado num dendrograma; corta-se no nível desejado. Apoia-se em k-means.
8. Agrupamento Hierárquico · Ward (1963) · Sokal & Rohlf (1962)
DBSCAN e HDBSCAN — Grupos como regiões densas de qualquer forma; os pontos das regiões esparsas ficam marcados como ruído. Apoia-se em k-NN.
7. Agrupamento · Ester et al. (1996) · Campello, Moulavi & Sander (2013)
Detecção de anomalias — Sinaliza os pontos raros que não se encaixam no resto: isolation forests, escores de densidade, erros de reconstrução. Apoia-se em DBSCAN, random forest.
além desta disciplina · Liu, Ting & Zhou (2008) · scikit-learn: detecção de outliers
Aprendizado autossupervisionado e contrastivo — Inventa uma tarefa de previsão a partir dos próprios dados (esconder uma palavra, casar dois recortes da mesma imagem) e aprende representações sem nenhum rótulo humano. Apoia-se em embeddings densos, redes neurais.
além desta disciplina · Devlin et al. (2019) · Chen et al. (2020)

Texto — palavras viram vetores

Bag-of-words e TF-IDF — Conta os tokens de cada documento e dá menos peso aos que todo documento usa: esparso, rápido, interpretável.
9. Representação de Texto · Salton & Buckley (1988) · Manning, Raghavan & Schütze (2008)
Embeddings densos — Palavras e frases como vetores curtos e densos cuja geometria codifica o significado: textos de sentido parecido caem perto. Apoia-se em bag-of-words.
9. Representação de Texto · Mikolov et al. (2013) · Reimers & Gurevych (2019)
Modelos de tópicos: LDA e BERTopic — Acham os temas de um corpus: o LDA como misturas de palavras; o BERTopic como grupos de embeddings, descritos por um TF-IDF por classe. Apoia-se em embeddings densos, UMAP, HDBSCAN, TF-IDF.
10. Modelagem de Tópicos & BERTopic · Blei, Ng & Jordan (2003) · Grootendorst (2022)
Tokenização em subpalavras — Como os LLMs cortam o texto: o byte-pair encoding monta um vocabulário de fragmentos frequentes e nenhuma palavra fica fora do vocabulário. Apoia-se em bag-of-words.
além desta disciplina · Sennrich, Haddow & Birch (2016) · cursos da Hugging Face

Modelos lineares — retas, planos e margens

Regressão linear — Mínimos quadrados: o ajuste em forma fechada, os resíduos, o R² e as suposições por trás das inferências.
11. Regressão Linear · Galton (1886) · James et al. (2023)
Gradiente descendente — Desce a ladeira da perda, um lote ou mini-lote por vez: o otimizador por trás de quase todo modelo moderno. Apoia-se em regressão linear.
12. Gradiente Descendente & Regularização · Ruder (2016) · Bottou, Curtis & Nocedal (2018)
Ridge e Lasso — Penaliza pesos grandes (L2) ou empurra alguns para exatamente zero (L1): um pouco de viés em troca de muito menos variância. Apoia-se em regressão linear.
12. Gradiente Descendente & Regularização · Hoerl & Kennard (1970) · Tibshirani (1996)
Regressão logística e softmax — Probabilidades pela sigmoide ou pela softmax, treinadas com entropia cruzada; a camada de saída de toda rede classificadora. Apoia-se em regressão linear, gradiente descendente.
13. Regressão Logística · Berkson (1944) · Cox (1958)
Máquinas de vetores de suporte e kernels — A fronteira de margem mais larga, curvada por um kernel que nunca constrói os novos atributos. Apoia-se em regressão logística, Ridge.
18. Máquinas de Vetores de Suporte · Cortes & Vapnik (1995) · Hsu, Chang & Lin (2003)
Modelos probabilísticos e bayesianos — Distribuições sobre parâmetros e previsões (naive Bayes, regressão bayesiana, processos gaussianos): incerteza por construção. Apoia-se em regressão linear, Ridge.
além desta disciplina · Rasmussen & Williams (2006) · Murphy (2022)

Aprendizado baseado em instâncias — os vizinhos votam

k-vizinhos mais próximos — Guarda o conjunto de treino e prevê a partir das k linhas mais próximas; o escalonamento e a escolha de k fazem todo o trabalho. Apoia-se em pré-processamento.
14. k-Vizinhos Mais Próximos · Fix & Hodges (1951) · Cover & Hart (1967)
Busca aproximada de vizinhos mais próximos — Índices em grafo e por quantização (HNSW, FAISS) acham os vetores quase mais próximos entre bilhões em milissegundos: o motor dos bancos de dados vetoriais. Apoia-se em k-NN, embeddings densos.
além desta disciplina · Malkov & Yashunin (2020) · Johnson, Douze & Jégou (2019)

Árvores e ensembles — os burros de carga dos dados tabulares

Árvores de decisão — Perguntas de sim/não recursivas, cada uma escolhida para reduzir a impureza; fáceis de ler, instáveis sozinhas.
20. Árvores de Decisão · Breiman et al. (1984) · Quinlan (1986)
Random forest — A média de centenas de árvores descorrelacionadas, cada uma crescida em uma amostra bootstrap; o erro out-of-bag vem de graça. Apoia-se em árvores de decisão.
21. Random Forest · Breiman (2001) · Louppe (2014)
Gradient boosting: XGBoost, LightGBM, CatBoost — Soma árvores pequenas uma de cada vez, cada uma ajustada ao gradiente da perda: o vencedor habitual em dados tabulares. Apoia-se em árvores de decisão, gradiente descendente.
22. Gradient Boosting · Friedman (2001) · Chen & Guestrin (2016) · Ke et al. (2017)
Stacking — Treina um meta-modelo sobre as previsões fora do fold de vários modelos diferentes. Apoia-se em validação cruzada, gradient boosting.
além desta disciplina · Wolpert (1992) · scikit-learn: ensembles

Redes neurais — do perceptron ao deep learning

Perceptron, MLP e retropropagação — Unidades logísticas empilhadas com ativações não lineares, treinadas pela regra da cadeia: as camadas ocultas aprendem os próprios atributos. Apoia-se em regressão logística, gradiente descendente.
23. Redes Neurais · Rosenblatt (1958) · Rumelhart, Hinton & Williams (1986)
Redes convolucionais — Pequenos filtros compartilhados por toda a imagem, empilhados de bordas a texturas e a objetos. Apoia-se em MLP.
além desta disciplina · LeCun et al. (1998) · Krizhevsky, Sutskever & Hinton (2017) · ANN-DL do Insper
Redes recorrentes e LSTMs — Um estado carregado ao longo de uma sequência, passo a passo; portões deixam a LSTM lembrar por trechos longos. Apoia-se em MLP.
além desta disciplina · Hochreiter & Schmidhuber (1997) · ANN-DL do Insper
Transformers e atenção — Cada token olha para todos os outros e tira uma média ponderada, com pesos vindos de similaridades aprendidas (uma softmax). Apoia-se em MLP, embeddings densos, softmax.
além desta disciplina · Vaswani et al. (2017) · Alammar (2018) · ANN-DL do Insper
Modelos generativos: VAEs, GANs, difusão — Aprendem a distribuição dos próprios dados e amostram dela novas imagens, sons ou moléculas. Apoia-se em MLP, redes convolucionais.
além desta disciplina · Goodfellow et al. (2014) · Ho, Jain & Abbeel (2020) · ANN-DL do Insper

Avaliação e seleção de modelos — números honestos

Métricas de classificação — Matriz de confusão, precisão, revocação, F1, MCC: escolha a métrica pelo custo de cada tipo de erro.
15. Métricas de Classificação · van Rijsbergen (1979) · Chicco & Jurman (2020)
ROC, PR e dados desbalanceados — Curvas sobre todos os limiares; pesos de classe, mudança de limiar e reamostragem quando os positivos são raros. Apoia-se em métricas de classificação.
16. ROC, PR e Dados Desbalanceados · Fawcett (2006) · Saito & Rehmsmeier (2015)
Validação cruzada e vazamento de dados — Revezar o fold de validação para uma estimativa mais estável, manter todo passo ajustado e todo fato do futuro longe das linhas avaliadas; comparar modelos nos mesmos folds (a validação cruzada aninhada avalia a própria escolha). Apoia-se em pipelines, generalização.
17. Validação Cruzada e Vazamento de Dados · Stone (1974) · Kapoor & Narayanan (2023)
Seleção de modelos e viés–variância — A decomposição viés–variância, as curvas de validação e de aprendizado, a regressão à média: distinguir underfitting de overfitting e escolher a complexidade pelos escores de validação, não pela esperança. Apoia-se em validação cruzada, Ridge e Lasso.
19. Seleção de Modelos · Geman, Bienenstock & Doursat (1992) · Belkin et al. (2019)
Calibração e predição conformal — Probabilidades que significam o que dizem e conjuntos de previsão que contêm a resposta certa a uma taxa garantida. Apoia-se em métricas de classificação, validação cruzada.
além desta disciplina · Guo et al. (2017) · Angelopoulos & Bates (2021)

Explicabilidade e responsabilidade — por que o modelo diz o que diz

Interpretável por construção — Modelos lineares e árvores rasas, cujo raciocínio se lê diretamente; para decisões de alto risco, muitas vezes bastam. Apoia-se em regressão logística, árvores de decisão.
24. Explicabilidade · Rudin (2019) · Molnar, Interpretable Machine Learning
Importância por permutação — Embaralha um atributo em dados separados e mede o quanto o escore cai. Apoia-se em random forest, validação cruzada.
24. Explicabilidade · Fisher, Rudin & Dominici (2019) · scikit-learn: importância por permutação
SHAP e LIME — Explicam uma previsão: a contribuição de cada atributo, por valores de Shapley (SHAP) ou por um substituto linear local (LIME). Apoia-se em gradient boosting, importância por permutação.
24. Explicabilidade · Ribeiro, Singh & Guestrin (2016) · Lundberg & Lee (2017)
Ética e responsabilidade — Os modelos aprendem o viés das decisões históricas; privacidade, consentimento e prestação de contas fazem parte do trabalho, não são um apêndice.
2. O panorama de ML · Obermeyer et al. (2019) · Bender et al. (2021)
Justiça algorítmica (fairness) — Critérios formais (paridade demográfica, equalized odds), por que não valem todos ao mesmo tempo e como auditar um modelo grupo a grupo. Apoia-se em ética, métricas de classificação.
além desta disciplina · Hardt, Price & Srebro (2016) · Barocas, Hardt & Narayanan (2023)
Interpretabilidade mecanicista — Abre a própria rede e acha os atributos e circuitos que seus neurônios computam. Apoia-se em transformers, SHAP.
além desta disciplina · Olah et al. (2020) · Templeton et al. (2024)

AutoML — a busca pelo modelo

Busca aleatória e otimização bayesiana — Sorteia hiperparâmetros ao acaso ou deixa um modelo substituto decidir onde tentar a seguir (Optuna). Apoia-se em seleção de modelos.
25. AutoML · Bergstra & Bengio (2012) · Snoek, Larochelle & Adams (2012)
Successive halving e Hyperband — Dá a cada candidato um orçamento pequeno, guarda a melhor fração e dá mais orçamento aos sobreviventes. Apoia-se em busca aleatória.
25. AutoML · Jamieson & Talwalkar (2016) · Li et al. (2018)
AutoML do pipeline inteiro — Busca junto o pré-processamento, a família de modelo e seus hiperparâmetros, muitas vezes terminando em um ensemble. Apoia-se em pipelines, otimização bayesiana, stacking.
25. AutoML · Feurer et al. (2015) · Erickson et al. (2020)
Busca de arquitetura neural — Busca a própria arquitetura da rede: camadas, larguras, conexões. Apoia-se em otimização bayesiana, MLP.
além desta disciplina · Zoph & Le (2017) · Elsken, Metzen & Hutter (2019)

MLOps — modelos em produção

Serving, versionamento e reprodutibilidade — Persistir o pipeline ajustado, fixar as versões dos dados e das bibliotecas, servir previsões atrás de uma API. Apoia-se em pipelines.
26. MLOps · Sculley et al. (2015) · Breck et al. (2017)
Monitoramento e drift — Acompanhar as entradas, as previsões e os desfechos em produção; retreinar quando o mundo muda. Apoia-se em métricas de classificação, serving.
26. MLOps · Gama et al. (2014) · Rabanser, Günnemann & Lipton (2019)
Model cards e documentação — Uma ficha curta e padronizada: para que serve o modelo, como foi avaliado, com quem ele erra. Apoia-se em ética, serving.
26. MLOps · Mitchell et al. (2019) · Hugging Face: model cards

Outros formatos de problema — além de uma linha, um rótulo

Previsão de séries temporais — Prevê os próximos valores de uma sequência a partir das defasagens e da sazonalidade, com uma validação que só olha para trás. Apoia-se em validação cruzada, gradient boosting.
além desta disciplina · Hyndman & Athanasopoulos (2021) · Makridakis, Spiliotis & Assimakopoulos (2022)
Sistemas de recomendação — Preveem quem quer o quê a partir de interações esparsas: fatoração de matrizes e, depois, embeddings de usuários e itens buscados por vizinhos mais próximos. Apoia-se em PCA, embeddings densos, vizinhos aproximados.
além desta disciplina · Koren, Bell & Volinsky (2009) · Covington, Adams & Sargin (2016)
Aprendizado por reforço — Um agente aprende agindo e colhendo recompensas: bandits, Q-learning, policy gradients. O paradigma foi apresentado na aula de panorama do ML. Apoia-se em paradigmas de aprendizado, MLP.
além desta disciplina · Sutton & Barto (2018) · Mnih et al. (2015)
Redes neurais em grafos — Aprendem sobre redes de entidades conectadas (moléculas, redes sociais, mapas viários) trocando mensagens entre vizinhos. Apoia-se em MLP, k-NN.
além desta disciplina · Kipf & Welling (2017) · Sanchez-Lengeling et al. (2021)

A fronteira — modelos de fundação e questões em aberto

Transfer learning e fine-tuning — Parte de um modelo pré-treinado: usa seus embeddings como atributos ou continua treinando seus pesos (todos ou uma fatia LoRA de baixo posto) com os seus rótulos. Discutido mais abaixo. Apoia-se em embeddings densos, MLP.
além desta disciplina · Howard & Ruder (2018) · Hu et al. (2022)
Modelos de fundação e LLMs — Um modelo muito grande pré-treinado em tarefas autossupervisionadas e depois adaptado a muitas tarefas; escala em dados, parâmetros e computação continua comprando novas habilidades. Discutido mais abaixo. Apoia-se em transformers, aprendizado autossupervisionado, transfer learning.
além desta disciplina · Kaplan et al. (2020) · Brown et al. (2020) · Bommasani et al. (2021)
Prompting e aprendizado em contexto — Descreva a tarefa e mostre alguns exemplos no prompt; nenhum peso muda. Apoia-se em modelos de fundação.
além desta disciplina · Brown et al. (2020) · Wei et al. (2022)
Geração aumentada por recuperação (RAG) — Gera o embedding da pergunta, busca os trechos mais próximos em um acervo de documentos e os coloca no prompt: k-NN sobre embeddings alimentando um LLM. Apoia-se em k-NN, vizinhos aproximados, embeddings densos, modelos de fundação.
além desta disciplina · Lewis et al. (2020) · Karpukhin et al. (2020)
Alinhamento: RLHF e sucessores — Ajusta um modelo às preferências humanas, por meio de um modelo de recompensa treinado em pares de respostas comparadas (RLHF) ou diretamente nesses pares (DPO). Apoia-se em aprendizado por reforço, regressão logística, modelos de fundação.
além desta disciplina · Christiano et al. (2017) · Ouyang et al. (2022) · Rafailov et al. (2023)
Avaliação de sistemas de LLM — Os benchmarks saturam e vazam para os dados de treino; tarefas separadas, LLM-como-juiz e arenas de preferência humana são os novos conjuntos de validação. Apoia-se em métricas de classificação, validação cruzada e vazamento.
além desta disciplina · Liang et al. (2022) · Zheng et al. (2023) · Sainz et al. (2023)
Modelos multimodais — Um único espaço de embeddings para imagens e texto (CLIP) e, depois, modelos que leem, veem e ouvem ao mesmo tempo. Apoia-se em aprendizado autossupervisionado, transformers, redes convolucionais.
além desta disciplina · Radford et al. (2021) · Dosovitskiy et al. (2021)
Agentes e uso de ferramentas — LLMs que planejam, chamam ferramentas (busca, código, APIs) e agem em laço; como avaliá-los e mantê-los seguros está em grande parte em aberto. Apoia-se em prompting, RAG, aprendizado por reforço.
além desta disciplina · Yao et al. (2023) · Schick et al. (2023)
Modelos de fundação tabulares — Um transformer pré-treinado em milhões de tabelas sintéticas prevê uma nova tabela pequena em uma única passada (TabPFN), desafiando as árvores com boosting em dados pequenos. Discutido mais abaixo. Apoia-se em gradient boosting, transformers, seleção de modelos.
além desta disciplina · Grinsztajn, Oyallon & Varoquaux (2022) · Hollmann et al. (2023) · Hollmann et al. (2025)
Machine learning causal — De "o que prevê Y?" para "o que acontece com Y se agirmos?": efeitos de tratamento, uplift, double machine learning. Apoia-se em regressão linear, validação cruzada, gradient boosting.
além desta disciplina · Chernozhukov et al. (2018) · Hernán & Robins, Causal Inference: What If
Modelos eficientes: destilação e quantização — Modelos menores e mais baratos que mantêm quase toda a qualidade: um aluno treinado nos rótulos suaves de um professor, pesos guardados em 4 ou 8 bits. Apoia-se em modelos de fundação, transfer learning.
além desta disciplina · Hinton, Vinyals & Dean (2015) · Dettmers et al. (2023)
Regulação e governança de IA — Leis baseadas em risco e arcabouços de gestão de risco: o AI Act europeu, o AI RMF do NIST e, no Brasil, a LGPD (artigo 20: o direito de pedir revisão de decisões automatizadas) e o projeto de lei de IA, PL 2338/2023. Apoia-se em ética, justiça algorítmica, model cards, modelos interpretáveis.
além desta disciplina · AI Act da UE (2024) · NIST AI RMF 1.0 (2023) · PL 2338/2023 (Senado)

Transfer learning: pare de começar do zero

Etapa 2. O aprendizado supervisionado clássico treina cada modelo do zero com seus próprios dados rotulados. O transfer learning reutiliza conhecimento: pré-treine um modelo grande em um corpus genérico enorme e depois o adapte à sua tarefa. Há dois jeitos de adaptar:

extração de atributos: congelar o modelo pré-treinado e usar suas representações como atributos para uma cabeça clássica. Você fez isso: sentence embeddings alimentando uma regressão logística ou uma etapa de agrupamento;
fine-tuning: continuar treinando alguns ou todos os pesos com seus dados rotulados, tipicamente 10²–10⁴ exemplos em vez de 10⁶. A LoRA (Hu et al., 2022) treina só uma correção de baixo posto \(W + BA\) de cada matriz de pesos, com \(B\) e \(A\) finas; para uma matriz \(4096 \times 4096\) e posto 8, são \(2 \times 4096 \times 8 = 65.536\) números treináveis em vez de \(16.777.216\), 0,4% deles.

Isso inverteu a economia de dados do campo. O ULMFiT (Howard & Ruder, 2018) e o BERT (Devlin et al., 2019) mostraram que um modelo de linguagem pré-treinado em texto sem rótulo, depois ajustado com fine-tuning, supera modelos treinados do zero em classificação de texto com uma fração dos rótulos. Tarefas que antes exigiam conjuntos rotulados enormes tornaram-se viáveis com centenas de exemplos.

Modelos de fundação

Escale a receita: arquiteturas transformer, pré-treino autossupervisionado (prever tokens mascarados ou o próximo token: os rótulos são grátis, então qualquer texto vira dado de treino), bilhões de parâmetros. Algo qualitativamente novo aparece. Um modelo de fundação (Bommasani et al., 2021) é um único modelo pré-treinado muito grande, adaptado a muitas tarefas: a família GPT, o Claude, o Gemini e o Llama para texto; o CLIP e seus sucessores para visão e linguagem; o Whisper para fala.

Por que escalar? Kaplan et al. (2020) mediram que a perda de teste dos modelos de linguagem cai como uma lei de potência suave no número de parâmetros, no tamanho dos dados e na computação, ao longo de várias ordens de grandeza. Essa regularidade tornou racional gastar em treinos cada vez maiores. A "Bitter Lesson" de Sutton (2019) lê a mesma história: em 70 anos, métodos gerais que aproveitam mais computação venceram o conhecimento construído à mão.

Com os grandes modelos de linguagem (LLMs), a adaptação fica ainda mais leve:

Adaptação	Dados rotulados necessários	O que acontece
zero-shot	nenhum	descreva a tarefa no prompt
few-shot / em contexto	um punhado	mostre exemplos no prompt; nenhum peso muda
fine-tuning (completo / LoRA)	centenas+	atualiza os pesos ou uma fatia de baixo posto deles
RAG	nenhum (precisa de documentos)	recupera trechos relevantes por busca de vizinhos mais próximos sobre embeddings e os coloca no contexto

"Classifique este tíquete de suporte como cobrança, técnico ou outro": em 2018, um projeto de rotulagem e um classificador treinado; hoje, muitas vezes um único prompt (Brown et al., 2020, mostraram o GPT-3 fazendo tarefas novas a partir de poucos exemplos no prompt). O prompting virou o novo fit() para uma ampla classe de tarefas de linguagem. O que não mudou: você continua precisando de um conjunto de teste rotulado para saber se o prompt funciona.

A caixa de ferramentas clássica em um mundo de LLMs

Etapa 3. Olhe dentro da pilha moderna e esta disciplina está em toda parte:

a camada de saída de um LLM é uma regressão softmax sobre o vocabulário; o treino é gradiente descendente em mini-batch com weight decay (uma penalidade L2, como na Ridge) sobre a entropia cruzada;
os sistemas RAG são k-NN sobre embeddings; um banco de dados vetorial é um motor de vizinhos mais próximos aproximados;
o modelo de recompensa do RLHF é uma regressão logística sobre pares de respostas;
avaliar um sistema de LLM é pensar em precisão e revocação mais um desenho honesto com dados separados; perguntas de teste que vazam para os dados de treino são o problema de vazamento atual do campo;
o BERTopic já compunha embeddings de modelos de fundação com UMAP, HDBSCAN e TF-IDF.

Onde o ML clássico ainda vence

Recorra à pilha clássica (e não a um modelo de fundação) quando:

Situação	Por que o clássico vence
Dados tabulares (churn, crédito, precificação, demanda)	o gradient boosting ainda lidera os benchmarks em tabelas de tamanho médio (Grinsztajn et al., 2022); LLMs são ruins com tabelas de números
Latência / custo / escala (decisões em milissegundos, bilhões de linhas)	uma regressão logística pontua uma linha em microssegundos, quase de graça
Decisões reguladas	razões de chances e valores SHAP podem ser mostrados a um auditor; um prompt não
Problemas pequenos e bem estruturados	um conjunto de 2.000 linhas precisa de controle de viés–variância, não de um trilhão de parâmetros
Determinismo e estabilidade	modelo fixo + entrada fixa = saída fixa; LLMs amostram

A primeira linha tem um desafiante. Grinsztajn, Oyallon & Varoquaux (2022) compararam modelos em 45 conjuntos tabulares de cerca de 10.000 linhas e acharam os ensembles de árvores à frente das redes profundas, porque tabelas têm funções-alvo irregulares e muitas colunas pouco informativas, que as árvores tratam bem e as redes neurais suavizam demais. O TabPFN (Hollmann et al., 2023, 2025) segue outro caminho: um transformer pré-treinado em milhões de tabelas sintéticas, que prevê uma tabela nova em uma única passada, sem treino e sem ajuste de hiperparâmetros. Em conjuntos de classificação de até 10.000 linhas, a versão de 2025 superou, em 2,8 segundos, um ensemble dos modelos de referência mais fortes (árvores com boosting entre eles) ajustado por 4 horas. Acima desse tamanho (e sempre que a latência importa), as árvores com boosting continuam sendo o padrão. Teste o desafiante como você testou todo modelo nesta disciplina: mesmos folds, mesma métrica, comparação pareada.

A habilidade do profissional de fronteira é o roteamento: percepção e linguagem vão para os modelos de fundação, predição estruturada vai para a pilha clássica; sistemas reais usam as duas. Um LLM lê a reclamação em texto livre, um modelo de gradient boosting calcula o risco de churn e o MLOps monitora os dois.

Problemas em aberto — para onde este campo vai

Etapa 4. O mapa tem chips tracejados porque o campo não está pronto. Estes problemas estão em aberto:

Alucinação e confiabilidade: falsidades fluentes. Calibração em escala de fronteira: um modelo deveria saber quando não sabe.
Avaliação: os benchmarks saturam em um ou dois anos e vazam para os dados de treino; medir com honestidade é uma corrida armamentista (Validação, em escala maior).
Alinhamento e segurança: fazer os sistemas perseguirem os objetivos que pretendemos; o RLHF e seus sucessores são respostas parciais.
Eficiência: destilação, quantização, modelos pequenos especializados contra generalistas gigantes.
Proveniência dos dados, viés e governança: as questões de ética da aula de panorama do ML, agora industrializadas e reguladas (AI Act europeu; no Brasil, a LGPD e o projeto de lei de IA PL 2338/2023, aprovado pelo Senado em dezembro de 2024 e enviado à Câmara dos Deputados).
Causalidade: a predição responde "o que vai acontecer"; decisões precisam de "o que acontece se agirmos". O ML causal une as duas coisas.
Agentes: modelos que planejam, chamam ferramentas e agem. Como avaliá-los e mantê-los seguros está em grande parte sem solução.

Para onde ir a partir daqui

Deep learning, em profundidade: a disciplina do Insper Artificial Neural Networks and Deep Learning (CNNs, transformers, modelos generativos); Prince, Understanding Deep Learning (2023, grátis on-line).
A visão probabilística: Murphy, Probabilistic Machine Learning (2022, grátis on-line), para os modelos bayesianos, os processos gaussianos e a incerteza que esta disciplina só tocou.
LLMs, na prática: os cursos da Hugging Face (tokenizadores, fine-tuning, RAG); a série Neural Networks: Zero to Hero de Karpathy, que constrói um GPT do zero.
Ler artigos: escolha uma ficha tracejada no mapa, leia o artigo clássico dela e depois procure um artigo recente que o cite. Os links do mapa são os pontos de partida.

A tese da disciplina, uma última vez

Toda ideia "nova" que você encontrar é uma composição de coisas que agora entende: perdas, gradientes, regularização, embeddings, vizinhos, ensembles, validação honesta. A fronteira se move; os fundamentos se acumulam. Aprenda as partes e nenhum todo será uma caixa-preta.

Referências

O mapa traz de uma a três referências por técnica. Estas são as que o texto desta aula usa.

Sutton, R. "The Bitter Lesson." Ensaio (2019). Link
Vaswani, A. et al. "Attention Is All You Need." NeurIPS (2017). arXiv:1706.03762
Howard, J.; Ruder, S. "Universal Language Model Fine-tuning for Text Classification." ACL (2018). arXiv:1801.06146
Devlin, J.; Chang, M.-W.; Lee, K.; Toutanova, K. "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." NAACL-HLT (2019). arXiv:1810.04805
Kaplan, J. et al. "Scaling Laws for Neural Language Models." arXiv (2020). arXiv:2001.08361
Brown, T. B. et al. "Language Models are Few-Shot Learners." NeurIPS (2020) — GPT-3. arXiv:2005.14165
Lewis, P. et al. "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." NeurIPS (2020). arXiv:2005.11401
Bommasani, R. et al. "On the Opportunities and Risks of Foundation Models." arXiv (2021). arXiv:2108.07258
Hu, E. J. et al. "LoRA: Low-Rank Adaptation of Large Language Models." ICLR (2022). arXiv:2106.09685
Ouyang, L. et al. "Training Language Models to Follow Instructions with Human Feedback." NeurIPS (2022) — RLHF. arXiv:2203.02155
Grinsztajn, L.; Oyallon, E.; Varoquaux, G. "Why Do Tree-Based Models Still Outperform Deep Learning on Typical Tabular Data?" NeurIPS Datasets and Benchmarks (2022). arXiv:2207.08815
Hollmann, N.; Müller, S.; Eggensperger, K.; Hutter, F. "TabPFN: A Transformer That Solves Small Tabular Classification Problems in a Second." ICLR (2023). arXiv:2207.01848
Hollmann, N. et al. "Accurate Predictions on Small Data with a Tabular Foundation Model." Nature 637 (2025): 319–326. DOI
Sainz, O. et al. "NLP Evaluation in Trouble: On the Need to Measure LLM Data Contamination for each Benchmark." Findings of EMNLP (2023). arXiv:2310.18018
Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial, o AI Act). Jornal Oficial da União Europeia (2024). EUR-Lex