Machine Learning · Insper
Introdução & História
Programas que inferem as regras a partir de exemplos
O que é aprender, por que agora e 200 anos de história num curso
Dois jeitos de fazer um computador decidir
escrever as regras
uma pessoa pensa em cada caso e o escreve como código
aprender as regras
escrevemos um programa que infere as regras a partir de exemplos
Machine Learning (ML): o campo que dá aos computadores a capacidade de aprender a partir de dados sem serem explicitamente programados para cada situação.
O que é "aprender"? Mitchell (1997)
Dizemos que um programa de computador aprende com a experiência E em relação a alguma classe de tarefas T e medida de desempenho P, se seu desempenho nas tarefas em T, medido por P, melhora com a experiência E.
Todo projeto deste curso pode ser descrito com esse vocabulário.
Exemplo: um filtro de spam
Preveja. Quais são a tarefa, a experiência e a medida de desempenho de um filtro de spam?
tarefa \(T\)
classificar e-mails como spam ou não spam
experiência \(E\)
um corpus de e-mails já rotulados por humanos
desempenho \(P\)
a fração classificada corretamente (ou uma métrica mais cuidadosa, na aula de métricas de classificação)
O caminho desta aula
- Por que aprenderquando as regras falham; o fluxo invertido
- Por que agoradados, computação, software; 200 anos de história
- Uma máquina que aprendecaixas de fósforos e contas aprendem o Hexapawn
- O curso pela frenteML clássico de ponta a ponta, até a fronteira
Cada etapa responde a uma pergunta: por que não escrever as regras à mão? → se as ideias são antigas, por que só agora? → como é aprender sem computador algum? → o que este curso cobre?
Etapa 1 · por que não escrever as regras à mão?
Por que aprender a partir de dados? Quando as regras falham
1. as regras são desconhecidas
ninguém consegue escrever as regras exatas que distinguem um tumor maligno de um benigno numa imagem bruta
2. as regras mudam
spammers se adaptam; um filtro estático se degrada, um sistema que aprende pode ser retreinado
3. as regras são numerosas demais
dígitos manuscritos com if/else: há maneiras demais de escrever um "7"
4. é preciso personalização
um recomendador deve se comportar diferente para cada usuário; aprender do histórico de cada um escala
O machine learning inverte o fluxo
O que a inversão nos dá
tradicional
regras + dados → respostas
machine learning
dados + respostas → modelo
O modelo é uma aproximação das regras; com ele respondemos a casos novos, nunca vistos.
Etapa 2 · se as ideias são antigas, por que só agora?
Por que agora?
Preveja. Os mínimos quadrados são de 1805. Se as ideias centrais são tão antigas, por que o ML ficou onipresente só nas últimas duas décadas?
dados
a web, os sensores e a digitalização produziram conjuntos grandes o suficiente para aprender padrões sutis
poder computacional
unidades de processamento gráfico (GPUs) e computação em nuvem tornaram barato ajustar modelos grandes
algoritmos & software
bibliotecas de código aberto (scikit-learn, XGBoost, PyTorch): décadas de pesquisa em poucas linhas
Uma conversa de 200 anos: estatística e ciência da computação
| quando | marco |
|---|
| 1805 | mínimos quadrados: a base histórica da regressão |
| 1886 | regressão à média: a palavra "regressão" entra na estatística |
| 1920s–1936 | fundamentos estatísticos: a inferência moderna toma forma |
| 1950 | a pergunta de Turing: máquinas podem pensar? |
| 1956–1959 | o nascimento da inteligência artificial (IA) e o perceptron |
| 1969–1980 | primeiro inverno da IA: o hype encontra seus limites |
… até a fronteira atual
| quando | marco |
|---|
| 1984–1986 | backpropagation e árvores de decisão: o aprendizado renasce em duas frentes |
| 1995–1997 | era do aprendizado estatístico: teoria rigorosa, algoritmos poderosos |
| 2001 | ensembles e as "duas culturas": os cavalos de batalha do ML tabular |
| 2012–2016 | a virada do deep learning: as redes neurais voltam, em escala |
| 2017–2018 | transformers: attention is all you need |
| 2020–hoje | modelos de fundação: um modelo, muitas tarefas |
A linha do tempo completa, com as fontes, está na página da aula.
Lendo a trajetória: três lições para este curso
os clássicos nunca foram embora
os mínimos quadrados (1805) ainda são o primeiro modelo de regressão a tentar; a regressão logística (1958) é um cavalo de batalha em produção
os ciclos de hype são reais
dois invernos da IA (por volta de 1974–1980 e 1987–1993); a avaliação honesta é o antídoto
moderno = clássico, composto
o BERTopic (2022) é embeddings + redução de dimensionalidade + agrupamento + TF-IDF (frequência do termo × frequência inversa nos documentos)
Conhecer as partes permite entender o todo e depurá-lo.
Etapa 3 · como é aprender sem computador algum?
Uma máquina que aprende feita de caixas de fósforos
- Martin Gardner, Scientific American, 1962. Sem eletrônica alguma.
- O minijogo Hexapawn: três peões por lado num tabuleiro 3×3.
- Uma caixa de fósforos por posição possível do tabuleiro, cheia de contas, uma cor por jogada legal.
Preveja. Só com caixas e contas, como essa máquina poderia jogar melhor a cada partida?
As regras das caixas de fósforos
- Para jogar: abra a caixa da posição atual e sorteie uma conta. Essa é a jogada.
- Se a máquina perder: remova a conta que levou à jogada perdedora (punição).
- Se ela vencer: as contas ficam ou ganham cópias extras (recompensa).
Depois de algumas dezenas de partidas, as jogadas ruins foram literalmente removidas das caixas: a máquina joga perfeitamente.
Simulador: a máquina de caixas de fósforos
Preveja. Treine-a por 50 partidas contra um oponente aleatório. A taxa de vitórias vai subir de forma suave? Ela um dia para de perder?
O que as caixas de fósforos ensinam
- Aprendizagem por reforço em sua forma mecânica mais pura. Donald Michie construiu a mesma ideia para o jogo da velha em 1961: o MENACE.
Aprender nada mais é do que ajustar parâmetros (contas) com base em feedback.
Etapa 4 · o que este curso cobre?
Onde este curso se encaixa
- Machine learning clássico de ponta a ponta: dados, aprendizado não supervisionado, regressão, classificação, árvores e ensembles.
- Ele termina na fronteira: redes neurais, explicabilidade, AutoML, MLOps e modelos de fundação.
- O deep learning ganha uma aula de transição aqui; seu tratamento completo está no curso complementar Artificial Neural Networks and Deep Learning.
Resumo
- ML: programas que inferem as regras a partir de exemplos.
- Mitchell: aprender = o desempenho \(P\) na tarefa \(T\) melhora com a experiência \(E\).
- Ele inverte o fluxo: dados + respostas → modelo.
- Por que agora: dados, poder computacional, software aberto.
- Caixas de fósforos: aprender é ajustar parâmetros a partir de feedback.
Próxima: O panorama de ML, um mapa dos tipos de aprendizado e de um projeto real.