Ir para o conteúdo

Modelos de Mundo

Um agente que só aprende agindo paga cada lição no mundo: um carro batido, um copo derrubado, um braço robótico que passou a noite tentando. Um modelo de mundo leva parte desse custo para dentro da cabeça do agente. É uma rede que aprendeu como o ambiente responde às ações — dado onde as coisas estão agora e o que eu faço, o que vem em seguida — para que o agente possa testar ações na imaginação, ordená-las e só então agir.

A ideia é antiga: em 1943 Kenneth Craik argumentou que um organismo que carregasse "um 'modelo em pequena escala' da realidade externa e das próprias ações possíveis dentro da cabeça" poderia "experimentar várias alternativas" antes de se comprometer com uma1. O que mudou entre 2018 e 2026 é que esse modelo agora pode ser aprendido a partir de pixels com a maquinaria dos capítulos anteriores: o codificador de um VAE, os blocos de atenção dos Transformers, os removedores de ruído da difusão e do DiT, os tokens da geração autorregressiva. Modelos de mundo aprendidos hoje coletam diamantes no Minecraft, empatam com o AlphaZero no Go sem receber as regras, planejam pegar e colocar objetos com braços robóticos em laboratórios cujos dados nunca viram e rodam como jogos que dá para jogar.

Este capítulo trata da parte fácil de subestimar: um modelo de mundo vale o que um planejador consegue fazer com ele. Um modelo com previsões excelentes de um passo ainda pode levar um planejador a bater numa parede, por três razões distintas — e o laboratório mede cada uma delas.

Slides

Clique nos slides e use as setas ← → para navegar; F abre em tela cheia e P abre a visão do apresentador, com as notas. Os simuladores desta página rodam dentro dos slides. Abrir os slides numa aba nova

O que é um modelo de mundo

Tome um ambiente com um estado \(s_t\), uma ação \(a_t\) escolhida pelo agente e uma observação \(o_t\) que o agente recebe (em geral uma imagem; o estado em si raramente é visível). O ambiente tem uma dinâmica: uma distribuição sobre o que vem em seguida, \(p(s_{t+1} \mid s_t, a_t)\). Um modelo de mundo é uma aproximação aprendida dela, quase sempre num espaço latente:

\[ z_t = e_\phi(o_t), \qquad \hat z_{t+1} = f_\theta(z_t, a_t) \quad\text{ou}\quad \hat z_{t+1} \sim p_\theta(z_{t+1} \mid z_t, a_t), \]
símbolo o que é
\(o_t\) a observação no instante \(t\) — por exemplo, um quadro 64 × 64
\(e_\phi\) o codificador, com parâmetros \(\phi\): comprime \(o_t\) no estado latente \(z_t\)
\(a_t\) a ação tomada no instante \(t\)
\(f_\theta\), \(p_\theta\) o modelo de transição (ou de dinâmica), com parâmetros \(\theta\): determinístico ou estocástico
\(\hat z_{t+1}\) o próximo latente previsto — o chapéu marca tudo o que o modelo imaginou

Cabeças opcionais saem do latente: um decodificador \(d_\psi(z) \approx o\) (para treinar por reconstrução ou para olhar os sonhos), um modelo de recompensa \(\hat r(z)\), um valor \(v(z)\), uma política \(\pi(a \mid z)\). Quais cabeças existem e o que a perda compara é o que separa as famílias abaixo.

Por que um agente quer um:

  • Planejamento. Buscar sequências de ações no modelo e executar a melhor. Nada precisa ser aprendido sobre o comportamento de antemão; o objetivo pode mudar na hora do teste.
  • Imaginação. Gerar experiência sintética com o modelo e treinar uma política nela, como no Dyna de Sutton (1991)2 e em todo Dreamer.
  • Eficiência de amostras. Interação real é o recurso caro. Nas suas seis tarefas de controle o PlaNet treinou por 1 000 episódios (contra 100 000 do D4PG, que não usa modelo) e chegou perto dos placares finais do D4PG; o artigo estima que o D4PG precisa, em média, de cerca de 200× mais episódios que o PlaNet para chegar ao mesmo placar4.

O preço é que toda decisão agora passa por algo que pode estar errado. O resto do capítulo trata de onde ele erra e do que isso causa.

Cinco famílias, um pipeline

Todo modelo de mundo deste capítulo cabe no mesmo diagrama: observação, codificador, estado latente, um preditor condicionado à ação e algo treinado em cima da previsão. Percorra as cinco famílias e observe quais caixas mudam.

V–M–C: o primeiro agente treinado no próprio sonho

O World Models de Ha & Schmidhuber (2018)3 dividiu o agente em três:

parte rede parâmetros (CarRacing)
V — visão um VAE: quadro 64 × 64 → \(z \in \mathbb R^{32}\) 4 348 547
M — memória uma MDN-RNN: uma LSTM de 256 unidades que produz uma mistura de 5 gaussianas sobre \(z_{t+1}\) 422 368
C — controlador uma única camada linear de \((z_t, h_t)\) para a ação 867

A assimetria é o projeto: quase toda a capacidade está no modelo de mundo e C é tão pequeno que pode ser treinado por uma estratégia evolutiva (CMA-ES) em vez de por gradientes. No CarRacing o agente fez 906 ± 21 em 100 tentativas, acima dos 900 que contam como resolver a tarefa. No VizDoom, C foi treinado inteiramente dentro do sonho de M e depois transferido para o jogo real.

O mesmo artigo encontrou o problema em torno do qual este capítulo se organiza. No sonho, o controlador "descobriu uma política adversarial para se mover de tal jeito que os monstros desse ambiente virtual governado por M nunca disparam uma única bola de fogo". O diagnóstico dos autores: a política "visita estados onde o modelo está errado porque estão longe da distribuição de treino". Aumentar a temperatura \(\tau\) das amostras de M tornou o sonho mais difícil de explorar: com \(\tau = 0{,}1\) o agente fez 2 086 no sonho e 193 no jogo real; com \(\tau = 1{,}15\), 918 no sonho e 1 092 na realidade.

O RSSM: PlaNet e Dreamer

O PlaNet (2019)4 introduziu o modelo recorrente de espaço de estados (RSSM), o núcleo de todo Dreamer desde então. O estado tem uma parte determinística \(h_t\) (a memória de uma GRU) e uma parte estocástica \(s_t\):

\[ h_t = f(h_{t-1}, s_{t-1}, a_{t-1}), \qquad \underbrace{s_t \sim p(s_t \mid h_t)}_{\text{prior: usado para imaginar}}, \qquad \underbrace{s_t \sim q(s_t \mid h_t, o_t)}_{\text{posterior: usado para treinar}}, \qquad o_t \sim p(o_t \mid h_t, s_t), \quad r_t \sim p(r_t \mid h_t, s_t) \]

O treino maximiza um limite inferior da evidência — exatamente a receita do VAE esticada no tempo: reconstruir \(o_t\) e \(r_t\) a partir do estado posterior e pagar um termo de KL \(\mathrm{KL}\big(q(s_t \mid h_t, o_t)\,\|\,p(s_t \mid h_t)\big)\) que força o prior — a única coisa disponível ao imaginar — a concordar com o que a observação revelou. O artigo concluiu que "ter os dois componentes é crucial para um bom desempenho de planejamento": um caminho só determinístico não representa vários futuros possíveis e um só estocástico tem dificuldade de carregar informação por muitos passos.

O PlaNet usou o modelo só para planejar: CEM (próxima seção) com horizonte 12, 10 iterações, 1 000 sequências candidatas e as 100 melhores mantidas. O Dreamer (2020)5 trocou o planejador por uma política: um ator e um crítico treinados inteiramente em rollouts imaginados de 15 passos, com os gradientes do valor voltando através da dinâmica aprendida. O crítico dele regride um retorno λ, que mistura as recompensas imaginadas com as próprias estimativas do crítico. Com \(\gamma\) o desconto e \(\lambda\) o peso da mistura,

\[ R^\lambda_t = r_t + \gamma\Big[(1-\lambda)\,v(s_{t+1}) + \lambda\,R^\lambda_{t+1}\Big], \qquad R^\lambda_H = v(s_H). \]

Com os \(\gamma = 0{,}99\) e \(\lambda = 0{,}95\) do Dreamer, num rollout imaginado de 2 passos com recompensas \(r_0 = 1\), \(r_1 = 0\) e valores do crítico \(v(s_1) = 2\), \(v(s_2) = 3\): \(R^\lambda_2 = 3\); \(R^\lambda_1 = 0 + 0{,}99\,(0{,}05 \cdot 3 + 0{,}95 \cdot 3) = 2{,}97\); \(R^\lambda_0 = 1 + 0{,}99\,(0{,}05 \cdot 2 + 0{,}95 \cdot 2{,}97) = 1 + 0{,}99 \cdot 2{,}9215 = 3{,}892\). Com \(\lambda = 0\) o alvo confiaria no crítico depois de um passo; com \(\lambda = 1\) confiaria nas recompensas imaginadas até o horizonte — e com elas em todo erro do modelo.

A linhagem continuou com três artigos que vale conhecer pelo que cada um acrescentou:

  • DreamerV2 (2021)6: o estado estocástico virou 32 variáveis categóricas de 32 classes cada e o "KL balancing" treina o prior mais depressa que o posterior (\(\alpha = 0{,}8\)). Primeiro agente a chegar ao nível humano no benchmark de 55 jogos de Atari aprendendo dentro de um modelo de mundo, numa GPU.
  • DreamerV3 (2023; Nature, abril de 2025)7: um único conjunto fixo de hiperparâmetros em mais de 150 tarefas de 8 domínios, possível graças a normalizações como \(\mathrm{symlog}(x) = \mathrm{sign}(x)\ln(|x|+1)\) para alvos de escala desconhecida e os "free bits" (nenhuma penalidade de KL abaixo de 1 nat). Foi "o primeiro algoritmo a coletar diamantes no Minecraft do zero, sem dados humanos nem currículos".
  • Dreamer 4 (2025)8: o modelo de mundo virou um modelo de vídeo de 2 bilhões de parâmetros, treinado em 2 541 horas de partidas gravadas de Minecraft, rápido o bastante para rodar em tempo real numa GPU. O agente aprendeu só dentro dele (sem nenhuma interação com o ambiente) e ainda assim obteve diamantes — em 0,7% dos episódios, um número pequeno para uma tarefa que exige uma longa cadeia de ações corretas de mouse e teclado.

MuZero: um modelo do que importa

O MuZero (2020)9 tomou a posição oposta sobre a reconstrução. As três funções dele são uma representação \(s^0 = h_\theta(o_1, \dots, o_t)\), uma dinâmica \(r^k, s^k = g_\theta(s^{k-1}, a^k)\) e uma predição \(p^k, v^k = f_\theta(s^k)\) (política e valor). A perda compara só essas previsões — recompensa, valor e política, ao longo de \(K = 5\) passos desenrolados — com os alvos vindos do jogo real. Nas palavras dos autores, "não há nenhuma restrição ou exigência direta de que o estado oculto capture toda a informação necessária para reconstruir a observação original".

Um modelo julgado só pelas decisões que sustenta é livre para ignorar todo o resto: a cor do fundo, a textura do tabuleiro. Ele é usado para planejar com busca em árvore Monte Carlo (800 simulações por lance nos jogos de tabuleiro, 50 no Atari) e empatou com o AlphaZero no Go, no xadrez e no shogi sem receber as regras.

Modelos preditivos latentes: nenhum pixel

Uma quarta família mantém um modelo de dinâmica latente aprendido e descarta o decodificador: prevê a próxima representação em vez do próximo quadro — a ideia JEPA do capítulo anterior aplicada a ações. O TD-MPC2 (2024)11 o treina com "predição de representações conjuntas …, predição de recompensa e aprendizado TD … sem decodificar observações" e planeja com MPPI; um único agente de 317M parâmetros dá conta de 80 tarefas. O DINO-WM (2025)14 prevê os atributos futuros dos patches de um codificador DINOv2 congelado e planeja minimizando a distância quadrática até a representação de uma imagem-objetivo. O V-JEPA 2-AC (2025)15 faz o mesmo sobre um codificador de vídeo pré-treinado em mais de um milhão de horas de vídeo da internet, pós-treinado em menos de 62 horas de vídeo de robô sem rótulos — e é implantado zero-shot em braços Franka de dois laboratórios.

Planejar no modelo: MPC

O planejador que PlaNet, TD-MPC2, DINO-WM e V-JEPA 2-AC usam é o controle preditivo baseado em modelo (MPC):

  1. a partir do estado atual, buscar a sequência de ações \(a_{t:t+H-1}\) que minimiza um custo calculado no modelo;
  2. executar só a primeira ação dela;
  3. observar o que de fato aconteceu e repetir a partir dali.

A busca mais usada é o método da entropia cruzada (CEM). Mantenha uma gaussiana sobre planos, com média \(\mu \in \mathbb R^{H \times d_a}\) e um desvio-padrão \(\sigma\) por entrada. Então, \(I\) vezes:

\[ a^{(i)} = \mathrm{clip}\big(\mu + \sigma \odot \epsilon^{(i)}\big),\ \epsilon^{(i)} \sim \mathcal N(0, 1)\ \text{por entrada},\ i = 1..N; \qquad C^{(i)} = \sum_{h=1}^{H} c\big(\hat z^{(i)}_{t+h}\big); \qquad \mu, \sigma \leftarrow \text{média, desvio dos } K_e \text{ } a^{(i)} \text{ mais baratos} \]

com \(\hat z^{(i)}_{t+h}\) o latente que o modelo imagina depois das \(h\) primeiras ações do plano \(i\) e \(c\) um custo por passo (uma distância até o objetivo ou uma recompensa prevista com sinal trocado). O MPPI10 troca a seleção rígida dos \(K_e\) melhores por pesos suaves \(w_i \propto \exp\!\big(-(C^{(i)} - \min_j C^{(j)})/\lambda\big)\) e faz \(\mu \leftarrow \sum_i w_i a^{(i)}\). Nenhum dos dois usa gradiente: o modelo só roda para a frente, por isso os dois funcionam com qualquer modelo, inclusive um simulador não diferenciável.

O painel roda esse laço num problema pequeno o bastante para conferir todo número: um ponto numa reta, partida \(x_0 = 0\), objetivo \(g = 2\), ações em \([-1, 1]\), horizonte \(H = 3\), \(N = 6\) planos, \(K_e = 2\) de elite, duas iterações, custo \(\sum_h |x_h - g|\).

mundo: x′ = x + a, a ∈ [−1, 1] · partida x₀ = 0 · objetivo g = 2

O exemplo resolvido, com o modelo igual ao mundo (\(x' = x + a\)). O primeiro plano sorteado é \(a = (1;\ -1;\ 0{,}336)\) — o primeiro sorteio, \(0{,}8 \cdot 2{,}04 = 1{,}632\), foi cortado em 1 —, então ele imagina \(x = (1;\ 0;\ 0{,}336)\) e custa \(|1-2| + |0-2| + |0{,}336-2| = 4{,}664\). Os seis custos são \(4{,}664;\ 8{,}264;\ 10{,}064;\ 2{,}912;\ 8{,}592;\ 6{,}360\); a elite são os planos 4 e 1, então a nova média é \(\mu = (1;\ -0{,}408;\ 0{,}028)\) e o novo espalhamento \(\sigma = (0{,}05;\ 0{,}642;\ 0{,}358)\) — por exemplo, \(\sigma_2 = |0{,}184 - (-1)|/2 + 0{,}05\). Depois da segunda iteração o plano é \(\mu = (0{,}996;\ -0{,}058;\ 0{,}284)\), com custo 2,846. O ótimo, \(a = (1;\ 1;\ 0)\), custa 1,0: seis amostras são uma busca grosseira, por isso o PlaNet sorteia 1 000.

Agora troque o painel para o modelo aprendido 25% rápido demais (\(x' = x + 1{,}25\,a\)). O mesmo plano é escolhido, o modelo promete um custo de 2,057 e o mundo entrega 2,846. O MPC sobrevive a isso: depois de executar \(a = 0{,}996\) o mundo está em \(x = 0{,}996\), não no \(1{,}244\) prometido. A decisão seguinte parte da verdade. O painel abaixo torna essa diferença visível num episódio inteiro.

Com um modelo que erra as direções em 15°, o plano executado às cegas termina a 0,43 do objetivo — a diferença cresce 0,13 a cada 5 passos —, enquanto replanejar a cada passo chega lá nos mesmos 17 passos que o modelo prometeu. A realimentação é o que torna um modelo imperfeito utilizável. É também por isso que o laboratório mede cada falha sob MPC, do jeito que o modelo é de fato usado.

Três maneiras de dar errado

1. Erro composto

Um modelo é treinado com entradas reais: \(z_t = e(o_t)\) e depois um passo. Ele é usado sobre as próprias saídas: \(\hat z_{t+2} = f(\hat z_{t+1}, a_{t+1})\) e assim por diante, por \(H\) passos. Cada previsão vira a entrada da seguinte, então um erro cometido no passo 1 é carregado — e transformado pela própria dinâmica do modelo — para o passo 2. Talvitie disse sem rodeios: "uma amostra defeituosa é dada como entrada ao modelo, o que causa mais erros e assim por diante"12. Venkatraman et al. apontaram a causa: os erros "mudam a distribuição de entrada dos passos de previsão futuros, quebrando a hipótese i.i.d. entre treino e teste"13.

O caso mais simples já mostra o crescimento. Seja a dinâmica verdadeira \(x_{t+1} = x_t\) (nada se move) e a do modelo \(\hat x_{t+1} = 1{,}02\,\hat x_t\) — um erro de 2% por passo. A partir de \(x_0 = 1\), o erro depois de \(h\) passos imaginados é \(1{,}02^h - 1\): 0,02 depois de um passo, \(1{,}02^{10} - 1 = 0{,}219\) depois de dez e \(1{,}02^{30} - 1 = 0{,}811\) depois de trinta. Quando o erro do modelo é multiplicado pelo próprio jacobiano a cada passo, ele se compõe como juros.

O laboratório mede isso num modelo aprendido. Treinado em previsão de um passo, ele localiza uma mancha em movimento com erro de 0,0146 depois de um passo imaginado (a sala tem largura 2; um passo anda no máximo 0,14) e erra por 0,188 depois de trinta — 12,9 vezes mais. Treinado com uma perda sobre 10 passos desenrolados, ele fica um pouco pior em um passo (0,0192) e quase três vezes melhor em trinta (0,068). O objetivo decide em que o modelo é bom.

Remédios em uso

Treinar sobre os próprios rollouts do modelo — o latent overshooting do PlaNet, a perda latente de vários passos do TD-MPC. Manter os rollouts imaginados curtos e começá-los de estados reais — os "rollouts curtos gerados pelo modelo, ramificados a partir de dados reais" do MBPO16. Terminar o rollout com um valor aprendido em vez de mais modelo — o TD-MPC, o crítico do Dreamer. E replanejar a cada passo, o que zera o erro toda vez que chega uma observação real.

2. Exploração do modelo

Aqui "explorar" é o exploit do inglês (tirar proveito das falhas do modelo), não a exploration do aprendizado por reforço. O planejador é um otimizador e otimiza o modelo. Suponha que \(N\) planos candidatos tenham todos o mesmo custo verdadeiro \(C\) e que o modelo some um erro independente \(\varepsilon_i \sim \mathcal N(0, \sigma^2)\) a cada um. O planejador escolhe o plano de menor custo previsto, \(C + \min_i \varepsilon_i\). Para \(N = 1\,000\) o mínimo esperado de 1 000 normais padrão é cerca de \(-3{,}24\); com \(\sigma = 0{,}1\) o plano escolhido tem custo previsto \(C - 0{,}324\), enquanto o custo real é \(C\). O planejador não achou um plano melhor; achou o plano em que o modelo mais erra a favor dele. Buscar mais piora, não melhora.

Na prática os erros não são independentes: eles se concentram onde os dados eram escassos e o planejador vai para lá. No laboratório, a parede de um pequeno labirinto aparece em 1,75% das transições do jogo aleatório. Com o custo certo, um planejador no modelo aprendido resolve 2 de 10 tarefas que exigem contornar a parede; 8 dos 10 primeiros planos dele atravessam a parede na imaginação, prometendo 0,68 de caminho restante e entregando 0,94. O Doom sem bolas de fogo de Ha & Schmidhuber é o mesmo fenômeno.

As correções ou tornam o modelo honesto sobre o que ele não sabe ou vão buscar os dados:

  • Incerteza. O PETS17 treina um conjunto de 5 redes probabilísticas e propaga partículas por elas, de modo que as regiões em que os membros discordam pareçam arriscadas em vez de atraentes; a temperatura de Ha & Schmidhuber é uma versão mais grosseira da mesma ideia.
  • Fechar o laço. Coletar dados novos com o próprio planejador e treinar de novo — o laço do Dyna, do PlaNet, do Dreamer e do MuZero. O planejador vai aonde o modelo erra e o laço transforma cada erro num exemplo de treino. No laboratório, 600 transições coletadas pelo planejador (72% delas batendo na parede) levam o sucesso de 2 para 7 em 10 e as travessias imaginadas caem de 8 para 2.

3. A lacuna entre treino e planejamento

A terceira falha nem está no modelo. Um planejador ordena futuros imaginados com um custo e, num modelo de mundo latente, esse custo em geral é uma distância entre a representação imaginada e a de uma imagem-objetivo — L1 no V-JEPA 2-AC, L2 ao quadrado no DINO-WM. Só que nada no treino do codificador pediu que essa distância significasse quão longe está o objetivo para um agente que precisa chegar até ele.

O labirinto do laboratório torna a lacuna concreta. De \(s = (-0{,}6;\ -0{,}6)\) até \(g = (0{,}6;\ -0{,}6)\), com uma parede entre eles até a altura 0,3, a distância em linha reta é \(1{,}2\) e o caminho mais curto, dobrado no topo da parede \((0;\ 0{,}3)\), mede \(2\sqrt{0{,}6^2 + 0{,}9^2} = 2{,}163\). Com ações que andam no máximo 0,1 em cada eixo por passo, isso dá 12 passos se a parede não existisse e 18 contornando-a. Duas manchas em lados opostos de uma parede formam imagens parecidas, então as representações delas também ficam perto: em 1 124 pares aleatórios de estados com a parede no meio, a correlação de postos da distância latente é 0,93 com a distância euclidiana e só 0,41 com o comprimento do caminho.

Um planejador com custo euclidiano e horizonte de 15 passos vê todo plano que sobe em direção à abertura como piorando e fica empurrando a parede. No laboratório isso falha até no simulador perfeito (1 tarefa em 10); o mesmo planejador no mesmo simulador com o custo de comprimento do caminho resolve 10 em 10. O modelo nunca foi o problema ali. Lambert et al. deram nome à versão geral, descasamento de objetivos (objective mismatch): "treinar o modelo de dinâmica direta pela verossimilhança da previsão de um passo à frente" enquanto a meta é "melhorar o desempenho numa tarefa de controle posterior"18.

A lacuna que o próximo capítulo fecha

O Temporal-Distance JEPA (2026)19 diagnostica exatamente isso nos modelos de mundo JEPA: "o treino ao estilo JEPA otimiza a previsão latente de horizonte curto, enquanto o planejamento exige ordenar futuros imaginados, ao longo de vários passos, pelo progresso em direção ao objetivo". O remédio dele é aprender, a partir de trajetórias sem recompensa, um custo que mede o progresso temporal — passos ao longo da mesma trajetória como positivos, outras trajetórias como negativos — e planejar com ele. O próximo capítulo, o TDWM, ataca a mesma lacuna pelo lado da representação: a perda faz a similaridade entre dois quadros cair com o número de passos entre eles, então a própria distância no latente passa a medir progresso. O TD-JEPA aparece lá como o vizinho mais próximo.

Modelos de mundo em vídeo, 2024–2026

Outra linha de trabalho trata o modelo de mundo como um gerador de vídeo que recebe ações: o quadro previsto é o produto e dá para jogá-lo.

modelo o que é números públicos
GameNGen (2024)20 um ajuste fino do Stable Diffusion 1.4 que renderiza o DOOM a partir dos últimos 64 quadros e ações 20 quadros/s numa TPU; PSNR 29,4; avaliadores distinguiram trechos reais de gerados em 58–60% das vezes
Genie (2024)21 um modelo de mundo aprendido de vídeos da internet sem rótulos, de jogos de plataforma 2-D, com um modelo de ações latentes 11B parâmetros; 30 000 horas (6,8M trechos); 8 ações latentes; cerca de 1 quadro/s
Oasis (2024)22 um autoencoder ViT e um backbone DiT, treinados com diffusion forcing, jogável no navegador 20 quadros/s; pesos de 500M parâmetros publicados
Genie 2 / Genie 3 (2024–2025)23 os modelos de mundo interativos gerais da DeepMind; o Genie 2 é "um modelo de difusão latente autorregressivo" Genie 2: consistente "por até um minuto"; Genie 3: 720p, 24 quadros/s, consistente "por alguns minutos". Tamanho e arquitetura do Genie 3 não divulgados
Cosmos (2025)24 os "world foundation models" abertos da NVIDIA, de difusão e autorregressivos, para robótica e direção treinado em cerca de 100M trechos de 20M horas de vídeo; 7B e 14B de difusão, 4B e 12B autorregressivos
Dreamer 4 (2025)8 um modelo de mundo em vídeo dentro do qual um agente é treinado 2B parâmetros; 21 quadros/s numa H100

São esses os modelos por trás da maioria das manchetes sobre "modelos de mundo"; a comparação certa com os modelos latentes acima é um compromisso, não um ranking:

gerativo (pixels) preditivo latente (representações)
prevê o próximo quadro a próxima representação
custo por passo imaginado uma passada de remoção de ruído sobre um quadro inteiro uma rede pequena sobre um vetor
os erros parecem deriva visual: objetos que se deformam, salas que mudam às suas costas nada visível — eles se escondem na geometria do espaço
um planejador pode usá-lo como um simulador para assistir ou para treinar agentes dentro uma paisagem de custo para buscar
parte difícil consistência ao longo de minutos; física que só parece certa um custo de planejamento que signifique progresso

O V-JEPA 2-AC mediu diretamente o lado do custo. Planejar uma ação do robô levou 16 segundos com o modelo latente e 4 minutos com o Cosmos na mesma GPU; em pegar e colocar, o planejador latente teve sucesso em 80% (copo) e 50% (caixa) das tentativas naquele laboratório, o modelo de vídeo em nenhuma15. Para planejar, prever a representação basta e pixels são um luxo pesado; para uma pessoa que quer assistir ao mundo ou jogá-lo, os pixels são o objetivo.

Limites honestos

  • Horizontes longos ainda são a fronteira. Todo resultado acima planeja ou imagina por segundos — 12 a 15 passos no PlaNet e no Dreamer, alguns segundos de movimento de robô no V-JEPA 2-AC. Tarefas que exigem minutos de comportamento coerente dependem de um valor aprendido no fim do rollout ou de hierarquia — e nenhum dos dois está resolvido.
  • "Parece certo" não é "está certo". Um modelo de mundo em vídeo pode ser visualmente convincente e fisicamente errado; avaliadores humanos mal distinguirem o GameNGen do DOOM não diz nada sobre se um robô treinado nele funcionaria no mundo. Não há benchmark aceito de correção física.
  • A exploração nunca desaparece. Ela pode ser reduzida com incerteza e dados de laço fechado, nunca eliminada: um otimizador apontado para um modelo imperfeito vai achar as imperfeições.
  • Planejar com imagem-objetivo exige uma imagem-objetivo. Os planejadores latentes acima recebem uma foto da tarefa concluída. Transformar linguagem ou recompensas num custo de planejamento é um problema aberto.
  • Muito não é divulgado. Nos maiores sistemas (Genie 3, os modelos de vídeo fechados) a arquitetura, o tamanho e os dados de treino não são públicos; o que se diz sobre eles é o que se diz sobre demonstrações.

Laboratório: aprender um mundo e planejar dentro dele

Todo número desta página marcado como medido vem de um notebook no Colab que constrói um modelo de mundo de ponta a ponta num brinquedo pequeno o bastante para ver inteiro: uma mancha numa sala 2-D com uma parede, observada como uma imagem 16 × 16. Ele roda na CPU em poucos minutos, sem nada para baixar. Dez seções, cada uma terminando num checkpoint:

  1. o mundo, o simulador verdadeiro e as duas distâncias (linha reta, contornando a parede);
  2. o jogo aleatório e quão raramente ele encontra a parede;
  3. um modelo de mundo latente — codificador, decodificador, transição residual — treinado um passo por vez;
  4. o erro composto, medido ao longo de 30 passos imaginados;
  5. o mesmo modelo treinado em rollouts de 10 passos;
  6. MPC com CEM no simulador verdadeiro e no modelo aprendido, contra ações aleatórias;
  7. a lacuna entre treino e planejamento: distância latente contra comprimento do caminho e o planejador com o custo certo;
  8. a exploração do modelo: o que o planejador recebeu de promessa e o que recebeu de fato;
  9. fechar o laço com dados coletados pelo planejador;
  10. sua vez: aprender o custo, acrescentar pessimismo ou ajustar o planejador.

Abrir o laboratório no Colab — salve uma cópia no seu Drive (Arquivo → Salvar uma cópia no Drive) para rodar e editar.

Para levar

  1. Um modelo de mundo aprende \(p(s_{t+1} \mid s_t, a_t)\), quase sempre num espaço latente: um codificador, uma transição condicionada à ação e cabeças opcionais (pixels, recompensa, valor). Agentes o usam para planejar, para imaginar dados de treino e para gastar menos interação real.
  2. As famílias diferem no que o modelo precisa prever: pixels (V–M–C, RSSM, modelos de vídeo), só recompensa, valor e política (MuZero) ou só a próxima representação (TD-MPC2, DINO-WM, V-JEPA 2-AC).
  3. O MPC planeja no modelo, executa a primeira ação e replaneja. CEM e MPPI buscam sem gradientes. Replanejar é o que torna um modelo imperfeito utilizável.
  4. Erro composto: um modelo treinado um passo por vez é usado sobre as próprias saídas. Os erros se carregam e crescem; treinar sobre rollouts de vários passos, horizontes curtos e valores terminais os contêm.
  5. Exploração: o planejador escolhe os planos em que o modelo mais erra a favor dele. Buscar mais piora. Incerteza (conjuntos de modelos) e coleta de dados em laço fechado são os remédios.
  6. A lacuna entre treino e planejamento: o custo de planejamento — uma distância entre representações — nunca foi treinado para significar progresso em direção ao objetivo. Um modelo perfeito com o custo errado ainda falha; o próximo capítulo treina o latente para que a distância meça progresso.
  7. Modelos de mundo em vídeo (Genie 3, Cosmos, GameNGen, Dreamer 4) preveem pixels e dá para jogá-los; modelos latentes preveem representações e são muito mais baratos para planejar. Qual é o certo depende de a saída ser para uma pessoa ou para um planejador.


  1. Craik, K. J. W. (1943). The Nature of Explanation, cap. 5. Cambridge University Press. O trecho do "modelo em pequena escala", citado de uma transcrição do capítulo 5. ↩

  2. Sutton, R. S. (1991). Dyna, an integrated architecture for learning, planning, and reacting. ACM SIGART Bulletin 2(4). Veja também Schmidhuber, J. (1990), Making the World Differentiable, TR FKI-126-90, que já planejava por "simulação mental" num modelo recorrente aprendido. ↩

  3. Ha, D., & Schmidhuber, J. (2018). World Models (versão interativa); versão do NeurIPS: Recurrent World Models Facilitate Policy Evolution. As contagens de parâmetros, o placar no CarRacing e a tabela de temperaturas do VizDoom são do artigo; as citações são da seção "Cheating the World Model". ↩

  4. Hafner, D., Lillicrap, T., Fischer, I., Villegas, R., Ha, D., Lee, H., & Davidson, J. (2019). Learning Latent Dynamics for Planning from Pixels. ICML. PlaNet; o RSSM (Eq. 4), a configuração do CEM (Apêndice A) e a Tabela 1 (1 000 episódios contra 100 000 do D4PG e o ganho estimado de eficiência de dados por tarefa, de 40× a 500×). ↩↩

  5. Hafner, D., Lillicrap, T., Ba, J., & Norouzi, M. (2020). Dream to Control: Learning Behaviors by Latent Imagination. ICLR. Horizonte de imaginação \(H = 15\), \(\gamma = 0{,}99\), \(\lambda = 0{,}95\) (Apêndice A). ↩

  6. Hafner, D., Lillicrap, T., Norouzi, M., & Ba, J. (2021). Mastering Atari with Discrete World Models. ICLR. DreamerV2. ↩

  7. Hafner, D., Pasukonis, J., Ba, J., & Lillicrap, T. (2025). Mastering diverse control tasks through world models. Nature 640, 647–653. Preprint: Mastering Diverse Domains through World Models (2023). DreamerV3. ↩

  8. Hafner, D., Yan, W., & Lillicrap, T. (2025). Training Agents Inside of Scalable World Models. Dreamer 4: o conjunto VPT de 2 541 horas, 2B parâmetros, 21 FPS numa H100 (Tabela 1), diamantes em 0,7% dos episódios. ↩↩

  9. Schrittwieser, J., et al. (2020). Mastering Atari, Go, chess and shogi by planning with a learned model. Nature 588, 604–609. Preprint: arXiv:1911.08265. MuZero. ↩

  10. Williams, G., Wagener, N., Goldfain, B., Drews, P., Rehg, J. M., Boots, B., & Theodorou, E. A. (2017). Information theoretic MPC for model-based reinforcement learning. ICRA. MPPI. ↩

  11. Hansen, N., Su, H., & Wang, X. (2024). TD-MPC2: Scalable, Robust World Models for Continuous Control. ICLR. O antecessor: Hansen, N., Wang, X., & Su, H. (2022), Temporal Difference Learning for Model Predictive Control, ICML. ↩

  12. Talvitie, E. (2014). Model Regularization for Stable Sample Rollouts. UAI. ↩

  13. Venkatraman, A., Hebert, M., & Bagnell, J. A. (2015). Improving Multi-Step Prediction of Learned Time Series Models. AAAI. Usa os dados de treino como "demonstrador" para corrigir os rollouts do próprio modelo (DaD). ↩

  14. Zhou, G., Pan, H., LeCun, Y., & Pinto, L. (2025). DINO-WM: World Models on Pre-trained Visual Features enable Zero-shot Planning. ICML. Custo de planejamento: o erro quadrático médio entre o estado latente atual e o do objetivo, otimizado com CEM. ↩

  15. Assran, M., Bardes, A., Fan, D., et al. (2025). V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning. Meta. V-JEPA 2-AC: planejamento por CEM sobre a distância L1 até a representação do objetivo; a Tabela 3 o compara com o Cosmos numa RTX 4090 (16 s contra 4 min por ação; pegar e colocar 80% / 50% contra 0% / 0%). ↩↩

  16. Janner, M., Fu, J., Zhang, M., & Levine, S. (2019). When to Trust Your Model: Model-Based Policy Optimization. NeurIPS. MBPO. ↩

  17. Chua, K., Calandra, R., McAllister, R., & Levine, S. (2018). Deep Reinforcement Learning in a Handful of Trials using Probabilistic Dynamics Models. NeurIPS. PETS. ↩

  18. Lambert, N., Amos, B., Yadan, O., & Calandra, R. (2020). Objective Mismatch in Model-based Reinforcement Learning. L4DC. ↩

  19. Bai, J., & Xiong, J. (2026). Temporal-Distance-JEPA: Plan-Aware Representation Learning for Latent World Model Predictive Control. ↩

  20. Valevski, D., Leviathan, Y., Arar, M., & Fruchter, S. (2025). Diffusion Models Are Real-Time Game Engines. ICLR. GameNGen. ↩

  21. Bruce, J., Dennis, M., Edwards, A., Parker-Holder, J., Shi, Y., et al. (2024). Genie: Generative Interactive Environments. ICML (melhor artigo). As 30 000 horas são o conjunto de treino filtrado (§3). ↩

  22. Decart & Etched (2024). Oasis: A Universe in a Transformer, 31 de outubro de 2024; código e pesos em github.com/etched-ai/open-oasis. ↩

  23. Google DeepMind. Genie 2: A large-scale foundation world model (4 de dezembro de 2024) e Genie 3: A new frontier for world models (5 de agosto de 2025). O Genie 3 ficou disponível para parte dos assinantes como Project Genie em janeiro de 2026, com gerações limitadas a 60 segundos. ↩

  24. NVIDIA (2025). Cosmos World Foundation Model Platform for Physical AI. O sucessor Cosmos-Predict2.5 é baseado em fluxo, com 2B e 14B parâmetros: World Simulation with Video Foundation Models for Physical AI. ↩