A Marcio.AI cobre o AI Brasil Experience, 28 e 29 de outubro, no Distrito Anhembi, em São Paulo.

CoberturaIngressos

Nvidia leva a computação confidencial ao bare metal para donos de modelos em dez nuvens

Capa do Watcher com o título Nvidia blinda modelos em servidor alugado
Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI.

A Nvidia anunciou na quarta, 21 de outubro, o Confidential Bare Metal, um modo de computação confidencial para servidores dedicados, sem camada de virtualização. Com ele, um laboratório de IA pode rodar o próprio software, inclusive o sistema do servidor, em máquina alugada de terceiros, sem que o dono da infraestrutura veja o modelo ou os dados. O suporte passa a cobrir os racks Grace Blackwell NVL72 e os sistemas Rubin NVL8. Dez provedores de nuvem oferecem a tecnologia. O Google Cloud vai levá-la às instâncias A4X Max, e a Cohere planeja usá-la no Model Vault. Na quinta, 22, a Cohere abriu em beta pública a versão atual do serviço, que já roda em GPUs H100. Até a sexta, 30, nenhuma das empresas tinha divulgado preço ou data de disponibilidade geral.

Em resumo

  • O que é novo: um terceiro modo de computação confidencial, para máquina física dedicada. Os outros dois são contêineres e máquinas virtuais, agora sob a mesma arquitetura de segurança.
  • Hardware: Grace Blackwell NVL72 em escala de rack, HGX Rubin NVL8 com CPU x86 e DGX Rubin NVL8.
  • Quem oferece: CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure, Nebius, Nscale e Vultr. Cisco, Dell, HPE, Lenovo, Supermicro e Bull vendem servidores certificados.
  • Cohere: abriu em beta pública na quinta, 22, o Model Vault com computação confidencial em H100 na Azure. O cliente confere o ambiente antes de mandar cada pedido.
  • Ponto aberto: nenhum preço, nenhuma data de disponibilidade geral e nenhum número de desempenho foram publicados.

O que a Nvidia anunciou?

Computação confidencial protege o dado enquanto ele é processado. O hardware cria um ambiente isolado, e nem o operador da infraestrutura consegue ler a memória. A Nvidia já oferecia isso em máquinas virtuais e em contêineres. O Confidential Bare Metal estende a proteção ao servidor inteiro, sem hipervisor. Segundo o blog da Nvidia, assinado por John Fanelli, o laboratório de modelos pode levar a própria pilha de software, inclusive o sistema do servidor e da plataforma, para nuvens, neoclouds e data centers de empresas.

A empresa também anunciou controles novos de plataforma. Eles protegem o dado em trânsito, medem a integridade da plataforma e aplicam restrições de acesso no hardware. Os três modos passam a dividir a mesma arquitetura. O suporte chega aos racks Grace Blackwell NVL72 e aos sistemas HGX Rubin NVL8, com CPU x86, e DGX Rubin NVL8.

O CloudNews.Tech, que cobriu o anúncio na sexta, 23, registra que não há preço, número de desempenho nem data de disponibilidade geral. A NAND Research, de Steve McDowell, situa o Confidential Bare Metal dentro da arquitetura de referência da OpenShell, lançada no mesmo dia. O analista lista a eficácia da segurança entre os fatores que ainda vão determinar se as promessas viram resultado.

Por que um laboratório quer servidor físico dedicado?

O motivo é o peso do modelo. Para um laboratório de fronteira, os pesos treinados estão entre os ativos mais caros que ele tem. Ao alugar GPU numa neocloud, ele entrega esse ativo a uma infraestrutura que não controla. Na máquina virtual confidencial, o software do servidor hospedeiro continua com o dono da nuvem. No bare metal confidencial, segundo a Nvidia, o laboratório leva também esse software.

O Google Cloud explica a escolha no blog que publicou no mesmo dia. A empresa diz que reconhece o valor do servidor dedicado, de um só cliente, para servir modelos de fronteira. As instâncias A4X Max, com racks GB300 NVL72, terão boot seguro e atestado ancorados no hardware, com memória DDR e conexões NVLink cifradas. Segundo o Google, isso protege prompts e modelos durante inferência e treino. Andrés Lagar-Cavilla, engenheiro do Google Cloud, falou em ambientes isolados por hardware e com proteção criptográfica de ponta a ponta. O blog não diz quando o recurso chega aos clientes.

No mesmo texto, o Google informou duas outras frentes. As instâncias G4 com computação confidencial, com GPUs RTX PRO 6000 Blackwell, estão em disponibilidade geral. E as instâncias A4, com HGX B200 e Intel TDX, já oferecem o recurso a clientes selecionados.

O que a Cohere já entrega?

A Cohere aparece no anúncio da Nvidia como interessada em integrar o Confidential Bare Metal ao Model Vault, o serviço dela de inferência dedicada. Phil Blunsom, diretor de tecnologia, disse que a empresa leva a segurança ancorada no hardware até a GPU, protegendo o dado na memória e nas conexões durante a execução. Essa integração ainda é plano.

O que já existe saiu na quinta, 22. A Cohere abriu em beta pública a computação confidencial no Model Vault, com GPUs H100 na Microsoft Azure. O pedido do cliente segue cifrado com Oblivious HTTP até uma chave ligada ao ambiente atestado. Antes de enviar, o software do cliente confere a prova assinada do hardware, do firmware e do software contra uma política aprovada. Se algo não bate, o pedido não sai. A Cohere diz que vai abrir o código da pilha, construída sobre Kata Containers e Confidential Containers, e que trabalha para suportar GPUs B200 antes da disponibilidade geral.

A própria Cohere lista o que a tecnologia não cobre. Alguns ataques físicos e de canal lateral ficam fora da proteção. Horário, tamanho e volume das mensagens continuam visíveis. O operador pode parar ou atrasar o trabalho mesmo sem ler o conteúdo. E falhas de aplicação, como injeção de prompt, seguem como responsabilidade do cliente. A Unite.AI reproduziu esses limites na cobertura da beta.

Como chegamos até aqui?

Em setembro, segundo texto da AlphaSignal de 16 de setembro, a Cohere lançou um modo cifrado do Model Vault em beta fechada, com acesso pelo time de vendas. Em 21 de outubro, a Nvidia anunciou o bare metal confidencial e a lista de dez nuvens. Um dia depois, a Cohere abriu a beta ao público. No mesmo palco de Berlim, a Nvidia apresentou a arquitetura de referência da OpenShell, que trata do isolamento de agentes. As duas peças cobrem pontas diferentes: uma protege o agente que roda, a outra protege o modelo e o dado de quem hospeda.

O que isso muda para empresas brasileiras?

Bancos, hospitais e escritórios de advocacia no Brasil que usam modelos de terceiros têm uma pergunta antiga: quem consegue ver o prompt? O atestado remoto dá uma resposta técnica que o próprio cliente pode conferir. Para quem responde à LGPD e a auditorias de fornecedor, isso pode entrar na due diligence: pedir o relatório de atestado e a política que o cliente verifica antes de cada envio.

A ressalva é prática. Nenhum dos anúncios cita região, preço ou data. Quem planeja usar o recurso precisa confirmar com o provedor se ele existe na região onde o dado tem de ficar. E a lista de limites publicada pela Cohere vale como roteiro de perguntas para qualquer fornecedor que venda IA confidencial.

O que observar nas próximas semanas

A tese da Marcio.AI: em 2027, atestado verificável de GPU vira condição de contrato quando um laboratório de fronteira aluga capacidade fora da própria casa. As neoclouds da lista da Nvidia levam vantagem nessas negociações sobre quem não oferece o recurso. Sinais para conferir até o fim do ano: data e preço do Confidential Bare Metal nas A4X Max do Google, o primeiro laboratório a dizer publicamente que usa o modo, a chegada da beta da Cohere às GPUs B200 e a publicação do código da pilha confidencial prometida pela Cohere.

Fontes

Rating Marcio.AI: 4/5 (Global, Muito relevante, Muito próximo do hype). Seção DeepTech do Watcher.

#MarcioAI #Nvidia #ComputacaoConfidencial #Cohere #GoogleCloud #SegurancaDeIA

Como este texto foi produzido

Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.


Leia também: Nvidia leva a OpenShell ao Vera Rubin e deixa o Sentry para 2027 e Google Cloud libera o Vera Rubin em novembro.

Deixe um comentário

Rolar para cima