A DeepSeek liberou em 20 de outubro de 2026, sob licença Apache 2.0, o DeepInfer, motor de inferência que serve o DeepSeek-V4.1-Flash na produção da própria empresa. O pacote traz kernels próprios, paralelismo para modelos de mistura de especialistas (MoE) e decodificação especulativa. Ele roda em GPUs Blackwell da Nvidia e, desde o primeiro dia, nos chips Ascend 950 da Huawei. A versão pública ainda não tem cache de KV, separação entre as fases de inferência e balanceamento entre réplicas.
Em resumo
- O que saiu: o motor que roda a API da DeepSeek, em Apache 2.0, mais a biblioteca deepseek-recipe, em MIT, que reproduz o formato de entrada e saída da API oficial.
- Modelo: só o DeepSeek-V4.1-Flash, na versão 1017. A DeepSeek diz que vai suportar modelos futuros.
- Hardware: GPUs Nvidia da geração Blackwell (SM100) e NPUs Huawei Ascend 950. As Hopper ficaram de fora.
- O que falta: cache de KV, inferência desagregada entre pré-preenchimento e decodificação e balanceamento entre réplicas. A versão pública faz só inferência offline.
- Dados de produção: a DeepSeek diz servir 155 trilhões de tokens por dia num cluster, segundo quatro das fontes. A conta de US$ 38 por hora de GPU tem ressalvas.
O que a DeepSeek abriu?
Segundo o README, o DeepInfer é “o framework de inferência de alto desempenho que sustenta os serviços de produção em larga escala da DeepSeek”. Ele nasceu de uma versão do vLLM e se inspirou no SGLang e no TensorRT-LLM, da Nvidia. O boletim WK, no Substack, informa que os módulos de agendamento, pré-processamento e amostragem foram reescritos em C++.
O pacote junta peças que a DeepSeek já tinha aberto em separado, como FlashMLA, DeepGEMM e DeepEP, com kernels novos, como TileKernels, DeepSelect e kernels escritos em TileLang. A atenção roda em paralelismo de dados. As camadas MoE rodam com paralelismo de especialistas e um balanceador de carga. Na decodificação, a empresa usa de 64 a 128 vias de paralelismo de especialistas, e no pré-preenchimento de 2 a 8, segundo o MarkTechPost e o boletim WK.
A decodificação especulativa, chamada DSpark, tenta adivinhar até 5 tokens por passo e usa uma camada de confiança para decidir quais verificar. Há ainda agendamento assíncrono entre CPU e GPU e saída estruturada em regex, JSON schema ou gramática EBNF. A inferência invariante ao tamanho do lote e a amostragem determinística funcionam só em GPU Nvidia.
O que ficou de fora?
O README lista três peças “necessárias para um serviço de inferência completo” que não vieram: um sistema de cache de KV, a separação entre pré-preenchimento e decodificação em máquinas diferentes e o balanceamento entre réplicas. Segundo o MarkTechPost, a DeepSeek diz que essas partes estão presas à infraestrutura interna. A versão pública faz inferência offline, e a DeepSeek afirma que ela tem “os recursos centrais para servir em escala”.
Na prática, quem quiser montar um serviço on-line ainda vai precisar de outras camadas. O MarkTechPost informa que a menor unidade de produção eficiente da DeepSeek tem 64 GPUs de pré-preenchimento e 64 de decodificação. Os testes publicados usaram 4 GPUs Blackwell no pré-preenchimento e 64 na decodificação, e os resultados aparecem só em gráficos. O MarkTechPost leu nesses gráficos mais de 25 mil tokens por segundo por GPU na decodificação, número que é estimativa do veículo.
E os números de produção?
A DeepSeek publicou um material de perguntas e respostas junto com o código. MarkTechPost, Crypto Briefing, BigGo Finance e o boletim WK citam o mesmo dado: um cluster serve cerca de 155 trilhões de tokens por dia. A Crypto Briefing acrescenta taxa de acerto de cache de entrada de 96%, cerca de 400 milissegundos até o primeiro token e 230 tokens por segundo na geração.
O número de receita pede cuidado. MarkTechPost e o boletim WK falam em cerca de US$ 38 de receita por hora de GPU, calculados com o preço fora do horário de pico. O BigGo Finance lembra duas coisas. Os 155 trilhões incluem a entrada que veio do cache, cobrada a US$ 0,003 por milhão de tokens. E a DeepSeek não disse a qual GPU os US$ 38 se referem, ponto levantado pelo analista Yuchen Jin. Por isso este texto trata os US$ 38 como indicador de ordem de grandeza, sem margem calculada.
Por que a Huawei Ascend importa aqui?
A DeepSeek pôs um chip chinês ao lado da Nvidia na lista oficial de hardware do seu motor de produção. O The New Stack destacou que a Huawei recebeu o mesmo peso que a Nvidia no anúncio. Para compilar, o DeepInfer pede CUDA 13 na Nvidia e CANN 9.2, a pilha de software da Huawei, no Ascend. Ainda não há dado de desempenho publicado para o Ascend 950, segundo o BigGo Finance.
O movimento vem de longe. Em abril de 2026, no dia do lançamento do DeepSeek V4, a Huawei disse que todos os seus produtos Ascend em supernó suportavam a série, segundo o IT Home. Em setembro, a Bloomberg informou que a DeepSeek planeja instalar pelo menos 160 mil chips Ascend 950DT num novo data center na Mongólia Interior, como lembra o The New Stack. A Marcio.AI já mostrou, com dados da IDC, a Huawei chegando a 28% dos chips de IA na China.
Como chegamos até aqui?
Em abril de 2025, a DeepSeek disse que tinha pensado em abrir o motor inteiro, mas preferiu contribuir com peças para projetos existentes, segundo o The New Stack. Os motivos citados foram o código derivado de uma versão antiga do vLLM, o acoplamento com a infraestrutura interna e o time pequeno. Um ano e meio depois, a empresa abriu o motor quase inteiro.
A abertura veio três dias depois do DeepSeek-V4.1-Flash-1017, a atualização do modelo coberta pela Marcio.AI em 19 de outubro. E chegou um dia depois de vir a público a ordem dos EUA que tira a DeepSeek dos sistemas federais civis. A ordem do Departamento de Segurança Interna (DHS), datada de 24 de julho e publicada para consulta em 19 de outubro, alcança também produtos de terceiros construídos sobre implementações da DeepSeek, segundo o IBTimes e a Crypto Briefing. As agências têm 60 dias para pedir exceção.
O que isso muda para empresas brasileiras?
Para provedores de nuvem e de inferência no Brasil que já servem o DeepSeek, o DeepInfer entrega as otimizações que a própria DeepSeek usa. A barreira é o hardware: o pacote pede GPUs Blackwell ou Ascend 950, e o ganho aparece em escala de dezenas de GPUs. Para a maioria das empresas, o efeito virá pelo preço por token de quem hospeda o modelo.
Há um ponto de risco para quem exporta software. A ordem do DHS atinge produtos de terceiros construídos sobre a DeepSeek. Software houses brasileiras que vendem para órgãos civis do governo americano precisam mapear se algum componente usa modelo ou código da DeepSeek. A licença Apache 2.0 do DeepInfer não muda esse enquadramento. Para quem roda tudo no Brasil, a vantagem é outra: com motor e pesos abertos, dá para servir o modelo em infraestrutura própria, sem mandar dados à API da DeepSeek.
O que observar nas próximas semanas
A tese da Marcio.AI: ao abrir o motor com suporte ao Ascend no primeiro dia, a DeepSeek transforma a Huawei numa opção de produção para modelos chineses fora da China, e os provedores de inferência vão publicar testes comparando Ascend 950 e Blackwell ainda em 2026. Sinais para conferir até dezembro: o primeiro dado público de desempenho no Ascend 950, a abertura do cache de KV ou da inferência desagregada, a adoção das otimizações pelo vLLM e pelo SGLang e o número de pedidos de exceção à ordem do DHS.
Fontes
- GitHub (deepseek-ai), DeepInfer, 20/10/2026
- The New Stack, DeepSeek open-sources the inference engine behind its API, 20/10/2026
- MarkTechPost, DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash, 20/10/2026
- Crypto Briefing, DeepSeek open-sources DeepInfer, the inference engine behind its production models, 20/10/2026
- BigGo Finance, DeepSeek Open-Sources Inference Framework DeepInfer, Discloses $38 Hourly Revenue per GPU, 20/10/2026
- WK (Substack), Reflections on DeepSeek Open-Sourcing Its Inference Engine, DeepInfer, 20/10/2026
- IBTimes UK, US Orders DeepSeek Off Government Systems, Including Third-Party Tools Built on It, 19/10/2026
- Crypto Briefing, US government bars DeepSeek from civilian agency use, 19/10/2026
- IT Home, Huawei: produtos Ascend em supernó suportam o DeepSeek V4, 24/04/2026
Rating Marcio.AI: 5/5 (Global, Totalmente relevante, No centro do hype). Seção DeepTech do Watcher.
#MarcioAI #DeepSeek #DeepInfer #Huawei #Ascend #Inferencia #CodigoAberto
Como este texto foi produzido
Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.
Leia também: DeepSeek atualiza o V4.1 Flash e corta o custo por tarefa e Nvidia cai para 34% dos chips de IA na China e Huawei chega a 28%.