Machine Learning · Insper

O panorama de ML

Abordagem fundamental

Os tipos de aprendizado, o ciclo de um projeto e o que significa um modelo generalizar

O caminho desta parte

Tipos de aprendizadosupervisionado, não supervisionado, por reforço: pelo feedback
O ciclo do projetoformular, obter dados, preparar, treinar, avaliar, implantar: um ciclo
Generalizaçãotreino e dados novos; subajuste e sobreajuste

Cada etapa responde a uma pergunta: que tipo de aprendizado, pelo feedback? → que passos um projeto real percorre? → o que torna um modelo bom em dados que ele nunca viu?

Etapa 1 · que tipo de aprendizado, pelo feedback?

Paradigmas de aprendizado: pelo feedback

Os problemas de machine learning (ML, aprendizado de máquina) são classificados pelo tipo de feedback que o aprendiz recebe.

Preveja. Três situações: (a) e-mails antigos, cada um marcado como spam ou não; (b) uma pilha de cadastros de clientes, sem marca alguma; (c) um programa que joga um jogo e só descobre no fim se venceu. Que feedback cada uma tem?

Três paradigmas

Aprendizado supervisionado: as entradas e as respostas

Os dados contêm as entradas \(x\) e as saídas desejadas \(y\) (rótulos). Objetivo: aprender uma função \(f\) com \(f(x) \approx y\) em dados novos.

regressão

\(y\) é contínuo: preços de imóveis, demanda de energia, o tempo de internação de um paciente

classificação

\(y\) é categórico: spam ou não, tumor benigno ou maligno, qual dígito está na imagem

É o tipo do \(y\) que dá nome à tarefa, não o algoritmo: um número é regressão; uma categoria, classificação.

Aprendizado não supervisionado: só as entradas

Sem rótulos. O objetivo é descobrir estrutura.

agrupamento

agrupar observações semelhantes, como segmentos de clientes

redução de dimensionalidade

comprimir muitos atributos em poucos informativos: PCA (análise de componentes principais), t-SNE, UMAP

modelagem de tópicos

descobrir temas numa coleção de documentos (BERTopic)

Aprendizado por reforço e as misturas

Um agente age num ambiente, recebe recompensas e aprende uma política que maximiza a recompensa de longo prazo: sistemas que jogam (AlphaGo), controle robótico.
Fora do escopo deste curso, mas você deve reconhecê-lo no mapa.

semissupervisionado

poucos rótulos, muitos exemplos não rotulados

autossupervisionado

rótulos fabricados a partir dos próprios dados: como os modelos de fundação são pré-treinados

supervisão fraca

rótulos ruidosos e programáticos

Etapa 2 · que passos um projeto real percorre?

O fluxo de trabalho de ML

Um modelo é uma pequena parte de um processo maior e iterativo. O curso é organizado em torno deste ciclo.

Duas verdades práticas sobre o ciclo

a maior parte do trabalho está nos passos 2–3

é comum profissionais relatarem que passam a maior parte do tempo entendendo e preparando dados, não ajustando modelos

o ciclo nunca termina

modelos implantados se degradam conforme o mundo muda (drift); monitorar e retreinar fazem parte do trabalho

O passo 1, formular o problema, parece o mais fácil e é onde um projeto mais vezes se condena: a abordagem avançada lhe dá uma seção própria.

Etapa 3 · o que torna um modelo bom em dados que ele nunca viu?

Generalização: o problema central

Preveja. Um modelo acerta todos os exemplos de treino: ele os memorizou. É um bom modelo?

Ele ainda pode ser inútil. O que importa é o desempenho em dados que ele nunca viu.

subajuste (underfitting)

simples demais para capturar o padrão: ruim até nos dados de treino

sobreajuste (overfitting)

captura ruído como se fosse sinal: excelente no treino, ruim em dados novos

Três modelos, a olho

15 pontos de treino (laranja) em torno de uma curva com ruído; 1.000 pontos novos (azul), que os modelos nunca veem. Erro: MSE (mean squared error, erro quadrático médio), a média dos quadrados das distâncias verticais. Preveja: ordene os graus 1, 3 e 12 pelo erro de treino. A ordem é a mesma nos pontos novos?

Grau 1 em subajuste (treino 0,208, novos 0,435), grau 3 em equilíbrio (0,036, 0,119), grau 12 em sobreajuste (0,004, 92,010)

Erro de treino: 0,208 → 0,036 → 0,004, sempre caindo. Erro nos pontos novos: 0,435 → 0,119 → 92,010. As duas ordens discordam, e só a segunda descreve o modelo em produção.

Simulador: subajuste e sobreajuste

Preveja. Quando o grau vai de 1 a 15, o que acontece com o erro de treino? E com o erro de teste? Depois aperte mais dados.

A regra de ouro

No lab e no simulador, os "pontos novos" vêm de um gerador que nós escrevemos: dá para sortear o futuro à vontade.
Um projeto real não tem esse gerador. O único substituto do futuro é o dado que você separa e nunca usa no treino.
Divisões treino/teste, validação cruzada, regularização, o trade-off viés–variância: tudo existe para gerenciar essa tensão.

A regra de ouro. Nunca avalie um modelo com dados em que ele foi treinado. Os dados de teste devem simular o futuro: nunca vistos, intocados, usados uma única vez.

Resumo

Paradigmas pelo feedback: supervisionado (rótulos), não supervisionado (estrutura), por reforço (recompensas).
No aprendizado supervisionado o tipo do \(y\) dá nome à tarefa: regressão ou classificação.
O fluxo de trabalho é um ciclo; a maior parte do trabalho está nos dados.
Leia dois erros, nunca um: os dois altos é subajuste; treino baixo e dados novos alto é sobreajuste.
Só dados que o modelo nunca viu o julgam: nunca avalie nos dados de treino.

o que você vê	o que está acontecendo
os dois erros altos e próximos	subajuste: simples demais
treino minúsculo, dados novos muito maior	sobreajuste: decorou o ruído
um modelo em produção piorando aos poucos	drift: o mundo mudou

Lab fundamental · cerca de 30 min, em duplas

A forma do erro, passos 1 a 4

Um mundo que você controla: 15 pontos de treino em torno de uma curva e 1.000 pontos novos do mesmo processo.
Polinômios de grau crescente e depois um modelo que só decora: acompanhe o erro de treino e o erro nos pontos novos.
O código está na página da aula: cole cada bloco num notebook em branco do Colab, em ordem. Nada para instalar.
Em cada passo, responda o Preveja antes de rodar.
Simulações: mais dados (passo 3) e nada para aprender (passo 4).

Ritmo: passos 1 e 2 em 8 min; passo 3 e a primeira simulação em 10 min; passo 4 e a segunda em 12 min.