O que é o Prime Inference?

É o serviço de inferência da Prime Intellect, aberto ao público em 2 de outubro de 2026, com endpoints sem servidor e capacidade reservada para modelos abertos, rodando em vários data centers com failover automático.

Qual modelo ele oferece?

O primeiro modelo hospedado é o GLM-5.3, da Z.ai, em GPUs Nvidia GB200 NVL72. O catálogo também dá acesso a modelos de outros provedores por gateway.

A Prime não publicou a tabela completa. A documentação remete ao catálogo no painel. Concorrentes cobram US$ 1,40 por milhão de tokens de entrada e US$ 4,40 por milhão de saída no GLM-5.3, segundo o MarkTechPost.

Quantos tokens a plataforma processa?

Segundo a própria empresa, perto de 1 trilhão de tokens por dia em uso interno antes da abertura. O número de 600 bilhões publicado pelo AlphaSignal não aparece na fonte primária.

Prime Intellect lança o Prime Inference

Capa do Watcher com o título Prime Intellect passa a vender inferência — Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI.

A Prime Intellect, startup americana conhecida por treino distribuído de modelos abertos, abriu ao público em 2 de outubro de 2026 o Prime Inference. É um serviço de inferência com endpoints sem servidor e capacidade reservada, rodando em GPUs da própria empresa em vários data centers, com failover automático entre eles. O primeiro modelo hospedado é o chinês GLM-5.3, da Z.ai, em GPUs Nvidia GB200 NVL72. A empresa promete GPUs Vera Rubin em seguida.

Em resumo

O serviço: endpoints sem servidor e capacidade reservada, API compatível com a da OpenAI e troca automática de data center em caso de falha.
O primeiro modelo: GLM-5.3 em GB200 NVL72, no ar no OpenRouter desde 22 de setembro, com meta de 100 tokens por segundo por usuário.
A pilha: Nvidia Dynamo para orquestração, vLLM como motor, Mooncake como cache em memória e FlashInfer para atenção.
O volume: perto de 1 trilhão de tokens por dia em uso interno antes da abertura, segundo a empresa.
O que falta: tabela de preços completa, lista de data centers e implantação dedicada de modelos ajustados.

O que a Prime Intellect lançou?

O Prime Inference tem dois modos. O sem servidor cobra por uso e serve quem tem demanda variável. O reservado garante capacidade para quem roda carga contínua. Os dois usam a mesma chave e o mesmo endereço de API, compatível com o cliente da OpenAI, segundo a documentação. O catálogo mistura modelos hospedados pela Prime, como o GLM-5.3, e modelos de outros provedores acessados por gateway.

O primeiro modelo hospedado foi para o OpenRouter em 22 de setembro. A empresa diz que ele está entre os endpoints de GLM-5.3 mais rápidos da plataforma e que teve 100% de disponibilidade desde então. A meta de engenharia era 100 tokens por segundo por usuário, do começo ao fim. O resultado medido foi 101 tokens por segundo por usuário, com 66 sessões por grupo de prefill e 100 tokens de saída por segundo por GPU.

Como a pilha foi montada?

O serviço separa as duas fases da inferência em grupos diferentes de GPU: o prefill, que lê o prompt, e o decode, que gera a resposta. Segundo a Prime, isso cortou cerca de 40% da latência entre tokens no percentil 90. A mediana de espera na fila caiu de 550 para 110 milissegundos. O cache de contexto foi comprimido para 4 bits (NVFP4), e a capacidade por decodificador subiu de 1,09 milhão para 1,63 milhão de tokens, segundo o MarkTechPost.

O Superpower Daily nota que esses testes usaram sessões que reaproveitam o histórico da conversa, típico de agentes de código que rodam por horas. É o caso de uso que a Prime tem dentro de casa: aprendizado por reforço em larga escala, geração de dados sintéticos e avaliações. Para chat curto sem histórico, os ganhos podem ser menores.

Quanto a plataforma já processa?

Aqui as fontes divergem. O AlphaSignal publicou no título que o serviço processa 600 bilhões de tokens por dia. O blog da Prime não traz esse número. O que a empresa escreveu é que processa “perto de um trilhão de tokens por dia só internamente”, antes da abertura ao público. O Superpower Daily lê da mesma forma e ressalta que o volume é de uso interno, anterior à chegada de clientes externos. Este texto usa o número da fonte primária.

Preço é a outra lacuna. A documentação manda consultar o catálogo no painel, e nem o blog nem a imprensa trazem a tabela completa. O MarkTechPost informa que concorrentes como Together AI, Fireworks AI e Baseten cobram US$ 1,40 por milhão de tokens de entrada e US$ 4,40 por milhão de saída no GLM-5.3. É a régua contra a qual a Prime vai ser comparada.

Como chegamos até aqui?

A Prime Intellect foi fundada em 2024 e ficou conhecida por treinar modelos abertos em hardware distribuído. Em julho de 2026 captou US$ 130 milhões em série A liderada pela Radical Ventures, com Nvidia Ventures, Intel Capital e Dell Technologies Capital, a uma avaliação de US$ 1 bilhão, segundo o Under30CEO. A mesma fonte fala em receita anualizada perto de US$ 100 milhões. Com o Prime Inference, a empresa sai do treino e passa a disputar a camada de serviço, onde já estão as neoclouds.

A Marcio.AI cobriu na semana passada a disputa por inferência entre neoclouds, com Nebius comprando a Inferize e a Cerebras levando 100 MW à Gimlet Labs. O Prime Inference entra no mesmo mercado, com a diferença de ter nascido para servir a carga de treino da própria empresa.

O que muda para empresas brasileiras?

Empresas brasileiras que já usam GLM pelo OpenRouter ganham mais um provedor com redundância entre data centers, útil para agente que não pode cair no meio da tarefa. A API compatível com a da OpenAI reduz o custo de troca.

O ponto de atenção é a localização. A Prime não informa onde ficam os data centers. Para dado pessoal sujeito à LGPD, transferência internacional exige base legal e cláusulas contratuais. Antes de mandar dado de cliente, vale pedir a lista de regiões e a política de retenção. O roteiro prevê implantação dedicada de modelos ajustados no treino da própria Prime, o que pode interessar a quem já treina lá.

O que observar nas próximas semanas

A tese da Marcio.AI: quem treina modelo aberto em escala vai vender a sobra de capacidade como inferência, e o preço por milhão de tokens de modelo aberto vai continuar caindo. A Prime tem a vantagem de já pagar pelas GPUs com a própria carga interna.

Sinais para conferir até o fim de 2026: a publicação da tabela de preços, a entrada de novos modelos hospedados além do GLM-5.3, a chegada das GPUs Vera Rubin, a lista de data centers e o lançamento de inferência em lote e implantação dedicada, que estão no roteiro.

Fontes

Rating Marcio.AI: 4/5 (Global, Muito relevante, Muito próximo do hype). Seção DeepTech do Watcher.

#MarcioAI #PrimeIntellect #Inferencia #ModelosAbertos #GLM53 #InfraestruturaDeIA

Como este texto foi produzido

Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.

Prime Intellect lança o Prime Inference, com failover entre data centers para modelos abertos