A Marcio.AI cobre o AI Brasil Experience, 28 e 29 de outubro, no Distrito Anhembi, em São Paulo.

CoberturaIngressos

Google lança o TPU 8tx, com computação confidencial, e o 8i Max, de dois chips e 384 GB

Capa do Watcher com o título Google lança TPU com computação confidencial
Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI.

O Google apresentou na segunda, 9 de novembro, dois sistemas novos da oitava geração de TPUs, os chips de IA da empresa. O TPU 8tx usa o mesmo silício do TPU 8t. Segundo o Google e a AMD, é o primeiro sistema de TPU na nuvem com computação confidencial garantida por hardware. Ele usa CPUs AMD EPYC de 5ª geração como host. O TPU 8i Max junta dois chips 8i num só pacote e dobra a computação, a SRAM e a banda de memória, com 384 GB de HBM. Com os dois, a oitava geração passa a ter quatro sistemas, a primeira vez que o Google lança quatro TPUs num ano. A empresa não deu preço, data nem região para os chips novos.

Em resumo

  • TPU 8tx: mesmo silício do 8t, com host AMD EPYC de 5ª geração e rede Boardfly. O Google promete latência até 2 vezes menor que a do 8t.
  • Proteção: prompts, dados e pesos do modelo ficam cifrados e isolados no hardware durante o processamento, segundo a AMD e o Google.
  • TPU 8i Max: dois chips 8i por pacote, 384 GB de HBM, 17,2 TB/s de banda e 768 MB de SRAM, segundo a Network World.
  • Clientes: quase 100 clientes usam TPUs, segundo o Google. A Alphabet já vende sistemas para os data centers dos próprios clientes.
  • Prazo: sem data oficial. A Next Platform estima a chegada dos sistemas novos em 2027, no melhor caso no 1º trimestre.

O que o Google anunciou?

O anúncio saiu num texto de Amin Vahdat, vice-presidente sênior e tecnólogo-chefe de IA e infraestrutura do Google. Os dois primeiros chips da geração foram apresentados em abril, no Google Cloud Next. O TPU 8t serve para treinar modelos grandes, com desempenho até 2,7 vezes maior que o da geração anterior. O TPU 8i serve para inferência, com até 80% mais desempenho por dólar. O Seoul Economic Daily lembra que a sétima geração tinha um chip só, e a oitava separou a linha por uso.

O 8tx mira inferência segura e treino em pequena escala. Segundo o Google, ele permite ajuste fino com dados privados, destilação e aprendizado por reforço sem tirar dados sensíveis do cluster. O 8i Max mira janelas de contexto muito longas e a maior densidade de computação por rack. Ele põe o dobro de silício no espaço do rack atual.

Mark Lohmeyer, vice-presidente de infraestrutura de IA do Google Cloud, disse à Network World que “você não deveria ter que escolher entre segurança e desempenho”. Ele descreveu as cargas de agentes como intermitentes, longas e muitas vezes paradas. Segundo ele, recursos presos durante esperas de vários dias ficam ociosos em mais de 90% do tempo.

Como funciona a computação confidencial do 8tx?

A AMD detalhou a parte dela em comunicado do mesmo dia. As CPUs EPYC cuidam da orquestração, do preparo de dados e da comunicação com os TPUs. A tecnologia SEV, de virtualização cifrada, estende a proteção da CPU aos aceleradores ligados a ela. Antes de um TPU acessar a memória protegida, a identidade e a configuração de segurança dele são verificadas. Prompts, pesos e dados intermediários ficam cifrados na memória da CPU e no trânsito.

A rede é a mesma do 8i, de baixa latência, segundo a Network World. A Next Platform dá os números. O Boardfly, variação da topologia dragonfly criada pelo Google, substitui o toro 3D do 8t. O pod cai de 9.600 para 1.152 aceleradores, e a latência média fica perto da metade. A Next Platform também informa que o 8tx troca a CPU Axion, de arquitetura Arm, feita pelo Google, por um EPYC da AMD. O motivo seria a raiz de confiança e a criptografia embarcadas.

Segundo Lohmeyer, a proteção vem com perda de desempenho “perto de zero”. O número não tem medição independente. À Data Center Knowledge, ele disse que clientes selecionados podem instalar o 8tx nos próprios data centers. Dave McCarthy, vice-presidente de grupo da IDC, disse ao mesmo site que, “se o Google tiver uma história forte de computação confidencial, isso dá a ele uma pequena vantagem”. Ele lembrou que a Nvidia ainda desenvolve a estratégia dela nessa área.

O que muda no 8i Max?

Lohmeyer descreveu o 8i Max como o dobro de silício por pacote, para ganhar capacidade. Ele chamou isso de pôr “mais faixas na estrada”. Pela Network World, o pacote tem 384 GB de memória HBM, 33% mais que o 8i. A banda é de 17,2 TB/s, o dobro, e a SRAM no chip é de 768 MB, também o dobro. A TechTarget traz os mesmos 768 MB e 17,2 TB/s.

A Next Platform aponta um detalhe que o Google não destacou. O 8i original tem 288 GB de HBM. No 8i Max, cada um dos dois chips fica com 192 GB. A memória do pacote sobe 33%, e a de cada chip cai 33%. O autor, Timothy Prickett Morgan, deduz que o Google trocou pilhas de memória de 12 camadas por pilhas de 8. Ele também questiona por que o Google não equilibrou computação e memória no 8i Max.

Junto com os chips, o Google anunciou o TPU Sync, software aberto que tira do chip o cache de contexto do agente quando ele pausa. Quando o agente volta, o cache volta junto. A empresa diz que isso corta em mais de 90% o tempo até o primeiro token. O recurso vale também para as gerações 5, 6 e 7 de TPU.

As fontes divergem?

Em dois pontos. O texto do Google fala em “quase 100 clientes” de TPU. A TechTarget escreveu mais de 100 clientes e parceiros. Este texto segue o número do Google, que é a fonte primária e foi repetido pela PPC Land.

O segundo ponto é a data. Nem o Google nem a AMD deram prazo. A TechTarget lembra que o 8t e o 8i ainda devem entrar em operação até o fim de 2026. A Next Platform estima os sistemas modificados para algum momento de 2027. O site lembra que o Ironwood, a geração anterior, levou cerca de um ano para ter capacidade de aluguel na nuvem.

Como chegamos até aqui?

O TPU virou produto de venda do Google. Segundo a PPC Land, com base no relatório trimestral da Alphabet, a empresa assinou um número limitado de contratos para instalar sistemas de TPU em data centers de clientes. Começou a reconhecer essa receita no 2º trimestre de 2026 e espera a maior parte em 2027. O estoque passou de US$ 2,4 bilhões no fim de 2025 para US$ 13,3 bilhões em 30 de setembro, puxado por hardware de TPU. A Anthropic prevê de US$ 125 bilhões a US$ 150 bilhões em computação adicional de TPU entre 2028 e 2031. O número está na emenda ao pedido de IPO de 2 de novembro.

A Marcio.AI registrou em outubro que a Oracle vai oferecer TPUs do Google na OCI a partir de 2027. No dia 1º de novembro, o portal mostrou a Nvidia levando a computação confidencial ao bare metal em dez nuvens, para donos de modelos que não querem expor os pesos. O 8tx põe o Google na mesma disputa, com uma sócia de CPU que também vende GPUs.

O que isso muda para empresas no Brasil?

Bancos, seguradoras, hospitais e órgãos públicos são o alvo declarado do 8tx. No Brasil, esses setores lidam com sigilo bancário, com dado de saúde classificado como sensível pela LGPD e com as regras do Conselho Monetário Nacional para contratar nuvem. Um TPU que mantém dados e pesos cifrados durante o uso tira um dos argumentos contra levar ajuste fino com dados de clientes para a nuvem. A opção de instalar o 8tx no data center do cliente interessa a quem não pode tirar os dados de casa.

O limite é a oferta. O Google não citou região para os sistemas novos. A Next Platform registra que o Ironwood foi precificado primeiro nas regiões US-Central1 e Europe-West2. Para uma empresa brasileira, o 8tx deve chegar antes por regiões fora do país, o que traz de volta a pergunta sobre onde o dado é processado.

O que observar nas próximas semanas

A tese da Marcio.AI: a computação confidencial vai virar item de contrato na compra de capacidade de IA por setores regulados. O Google entrou na disputa com a AMD como sócia, enquanto a Nvidia vende a própria versão. Ganha quem provar desempenho perto do normal com os dados protegidos. Sinais para conferir até o fim de 2026: preço por hora e regiões do 8tx e do 8i Max, o primeiro cliente nomeado do 8tx, testes independentes da perda de desempenho com a proteção ligada, se o 8t e o 8i entram em operação até dezembro e novos contratos de TPU instalados no data center do cliente.

Fontes

Rating Marcio.AI: 5/5 (Global, Totalmente relevante, No centro do hype). Seção DeepTech do Watcher.

#MarcioAI #Google #TPU #Chips #ComputacaoConfidencial #AMD #InfraestruturaDeIA

Como este texto foi produzido

Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.


Leia também: Nvidia leva a computação confidencial ao bare metal para donos de modelos em dez nuvens e Oracle vai oferecer TPUs do Google em 2027 e abre a OCI a Cerebras, SambaNova e OpenAI.

Deixe um comentário

Rolar para cima