É a pilha nativa de PyTorch do Google para as TPUs, feita com a equipe de PyTorch da Meta e liberada em código aberto, sob licença Apache 2.0, em 20 de outubro de 2026. Ela faz a TPU aparecer no PyTorch como um dispositivo comum.

Preciso reescrever meu código PyTorch para usar TPU?

Segundo o Google, não. A troca típica é mudar o dispositivo de "cuda" para "tpu". Para desempenho de produção, o Google recomenda usar o torch.compile, que entrega o programa ao compilador XLA.

Qual a diferença entre TorchTPU e TorchNeuron?

Os dois levam PyTorch a chips próprios de nuvem sem reescrita. O TorchTPU é do Google, para TPUs. O TorchNeuron é da Amazon, anunciado em 19 de outubro de 2026, para os chips Trainium2 e Trainium3.

Google abre o TorchTPU: PyTorch nativo nas TPUs

Capa do Watcher com o título Google abre o TorchTPU e leva PyTorch às TPUs — Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI.

O Google liberou em código aberto o TorchTPU, sua pilha nativa de PyTorch para as TPUs, na PyTorch Conference de 20 de outubro de 2026, em San Jose. O projeto foi feito com a equipe de PyTorch da Meta. Programas escritos em PyTorch passam a rodar nos chips do Google com uma troca de dispositivo, sem reescrita. O Google diz que o treino chegou a 52% de uso efetivo do chip (MFU) no Qwen 3 8B, com escala quase linear em até 8.192 TPUs Ironwood. Um dia antes, a Amazon tinha anunciado o TorchNeuron, com a mesma proposta para o Trainium.

Em resumo

O que saiu: o TorchTPU em licença Apache 2.0, com versão 0.2.0 no PyPI, e versões próprias de vLLM, SGLang e TorchTitan para TPU.
Como funciona: a TPU aparece no PyTorch como um dispositivo comum. Basta trocar “cuda” por “tpu” no código, segundo a Tech Times. O projeto substitui o antigo PyTorch/XLA.
Números: 52% de MFU no Qwen 3 8B e escala quase linear até 8.192 chips Ironwood, segundo o Google. Todos os números são da própria empresa e dos parceiros.
Agentes: o Google pôs em prévia o TPU agent suite, que ajuda a migrar modelos, diagnosticar erros e ajustar o desempenho de inferência.
Disputa: Google e Amazon atacam, em dois dias seguidos, a vantagem de software que a Nvidia construiu com o CUDA.

O que o Google liberou?

O anúncio saiu no blog do Google Cloud, assinado por Mark Lohmeyer, vice-presidente de infraestrutura de IA, e Bill Jia, vice-presidente de engenharia. O código está no GitHub, na organização google-pytorch, sob licença Apache 2.0. O pacote torch-tpu 0.2.0 entrou no PyPI em 19 de outubro, para Python 3.11 a 3.14, segundo a Unite.AI.

O Google publicou quatro repositórios: o TorchTPU, versões para TPU do vLLM e do SGLang, os dois motores de inferência abertos mais usados, e o TorchTitan, referência de treino distribuído. Os parceiros foram a Inferact, que mantém o vLLM, a RadixArk, do SGLang, a Hugging Face, a Anyscale, do Ray, e Red Hat e IBM, no llm-d 1.0. Na biblioteca Transformers v5, da Hugging Face, mandar um modelo para TPU passa a ser um parâmetro: device_map=”tpu”.

Jana van Greunen, diretora de engenharia de PyTorch da Meta, explicou o interesse da empresa no comunicado: “Não podemos ficar presos a uma única arquitetura de hardware”. Segundo ela, o TorchTPU já roda cargas de LLM, anúncios e recomendação da Meta em casos de produção.

Como o TorchTPU funciona?

O TorchTPU usa a interface PrivateUse1, mecanismo do PyTorch para registrar hardware de terceiros. Por isso a TPU aparece como um dispositivo igual à GPU, sem classes especiais. Em abril, o blog de desenvolvedores do Google já tinha descrito três modos de execução imediata (eager): um de depuração, que roda uma operação por vez, um estrito, que é o padrão, e um que agrupa operações antes de mandar ao chip. Esse último dava de 50% a mais de 100% de ganho sobre o modo estrito, segundo o Google.

Para produção, o caminho é o torch.compile. O TorchTPU captura o grafo do programa e entrega ao compilador XLA, do próprio Google. A Tech Times aponta o que muda em relação ao PyTorch/XLA, a ponte anterior: acaba a necessidade de marcar trechos compiláveis, a compilação fica mais rápida e o modo eager passa a existir de fato.

O TPU agent suite, em prévia no GitHub, se conecta a ferramentas de programação com agentes. Ele automatiza a entrada de novos usuários, o diagnóstico de erros, as dúvidas comuns e o ajuste de desempenho de inferência de modelos PyTorch. O Google não detalhou quais agentes compõem o pacote.

Os números se sustentam?

O comunicado traz dois números de escala que parecem divergir. O TorchTitan foi “validado com até 8 mil TPUs Ironwood”, e o MFU de 52% veio com “escala quase linear em até 8.192 Ironwood”. A Unite.AI repete os dois. A leitura mais segura é que 8.192 é a contagem exata do maior teste e “8 mil” é o arredondamento. A Tech Times acrescenta cerca de 28% de MFU no Qwen3 MoE de 235 bilhões de parâmetros, na mesma escala.

Sobre compatibilidade, a Tech Times fala em 4.917 modelos da Hugging Face testados, com 98% de aprovação e 97% de paridade numérica com GPUs. O MarkTechPost cita cerca de 5 mil modelos. Os dois números vêm dos testes do próprio Google. Nenhuma das fontes traz teste independente, e a Unite.AI ressalta que o MFU de 52% vale para um modelo e uma configuração.

Há limites práticos. O README pede instalar o PyTorch da versão para CPU, senão o pip baixa a versão com CUDA. Formas dinâmicas de tensor, comuns em inferência com textos de tamanho variável, ainda estão no plano de trabalho, com prazo de 6 a 12 meses, segundo a Tech Times.

Como chegamos até aqui?

Em dezembro de 2025, a Reuters revelou que o Google trabalhava com a Meta num projeto interno chamado TorchTPU, e que avaliava abrir parte do código. A TechInformed e a Open Source For You repercutiram. Na época, as TPUs eram otimizadas sobretudo para o JAX, o framework do próprio Google, enquanto a maioria dos desenvolvedores escrevia em PyTorch. Em 7 de abril de 2026, o Google apresentou a arquitetura no blog de desenvolvedores e prometeu o repositório público para mais tarde em 2026.

Em 19 de outubro, véspera do lançamento do Google, a Amazon anunciou o TorchNeuron, também em Apache 2.0, para levar PyTorch aos chips Trainium2 e Trainium3. A Amazon diz que também está enviando ao PyTorch principal mudanças que desligam funções presas a chips da Nvidia. O TechCrunch leu os dois anúncios como um ataque coordenado à vantagem que a Nvidia construiu com desenvolvedores. O PyTorch nasceu na Meta, então Facebook, em 2016, e foi entregue à Linux Foundation em 2022. A Marcio.AI já registrou outros movimentos de fuga da dependência de um só fornecedor, como o Maia 300 da Microsoft.

O que isso muda para empresas brasileiras?

Para times brasileiros que treinam ou ajustam modelos em PyTorch, o custo de testar outro acelerador cai muito. Antes, sair da GPU da Nvidia exigia reescrever parte do código ou aceitar a ponte do PyTorch/XLA. Agora o mesmo programa pode rodar em GPU, TPU ou Trainium com troca de dispositivo, o que permite comparar preço por token treinado na própria carga.

Na negociação com nuvem, isso vira argumento. Quem tem contrato longo de GPU pode pedir cotação de TPU ou Trainium com o mesmo código e usar a comparação no preço. A ressalva da Tech Times vale para o comprador: o código é aberto, mas o chip continua alugado. Trocar de GPU para TPU reduz a dependência da Nvidia e aumenta a dependência do Google Cloud. A recomendação prática é manter testes automatizados rodando em pelo menos dois aceleradores.

O que observar nas próximas semanas

A tese da Marcio.AI: em 12 meses, o PyTorch vai rodar em TPU e Trainium sem perda relevante para cargas de treino e inferência padrão, e a disputa com a Nvidia sai do software e vai para preço, energia e oferta de chips. Sinais para conferir até o fim de 2026: um teste independente de MFU do TorchTPU fora do Google, a saída da prévia do TPU agent suite, a entrada das mudanças da Amazon no PyTorch principal e uma resposta pública da Nvidia, que até 21 de outubro não tinha comentado, segundo a Tech Times.

Fontes

Rating Marcio.AI: 5/5 (Global, Totalmente relevante, No centro do hype). Seção DeepTech do Watcher.

#MarcioAI #TorchTPU #PyTorch #TPU #GoogleCloud #CodigoAberto #InfraestruturaDeIA

Como este texto foi produzido

Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.

Google abre o TorchTPU e PyTorch passa a rodar nas TPUs sem reescrever o código