A Marcio.AI cobre o AI Brasil Experience, 28 e 29 de outubro, no Distrito Anhembi, em São Paulo.

CoberturaIngressos

llama.cpp chega à versão 1.0 depois de 3,5 anos e passa a avisar antes de quebrar a API

Capa do Watcher com o título llama.cpp chega à versão 1.0
Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI.

Os projetos llama.cpp e ggml, base de boa parte dos modelos de IA que rodam no computador do próprio usuário, lançaram a versão 1.0.0 na sexta, 13 de novembro. O projeto tem 3,5 anos. Com a 1.0, as duas bibliotecas passam a seguir versão semântica. Toda quebra de compatibilidade da API pública em C, ou da interface binária, vem com troca do número principal da versão. O llama.cpp roda mais de 150 variantes de arquitetura de modelo. Nvidia, AMD, Qualcomm, Arm, IBM e Intel cedem hardware para os testes. O anúncio saiu no blog da equipe na Hugging Face, assinado por Georgi Gerganov, criador do projeto, e outros dois membros da equipe.

Em resumo

  • Versões: libllama e libggml saem juntas na 1.0.0. Número principal para quebra da API, secundário para novidade compatível e de correção para bug.
  • Limpeza: a 1.0.0 remove da API pública a função llama_set_warmup e outras 35 funções marcadas como obsoletas, segundo as notas no GitHub.
  • Modelos: mais de 150 variantes de arquitetura e todos os métodos comuns de decodificação especulativa.
  • Distribuição: binários para Linux, macOS, Windows, Android e iOS, além de Docker, Debian, Homebrew, conda-forge, MacPorts e Winget.
  • Testes: máquinas próprias com hardware de seis fabricantes e capacidade extra pelo Buckets e pelo Jobs, serviços da Hugging Face.

O que muda com a versão 1.0?

A regra vale para todos os projetos da ggml-org. A versão principal sobe quando muda de forma incompatível a API pública em C, na pasta include. A secundária sobe com recurso novo compatível, atualização de backend, suporte a modelo ou adição à API. A de correção sobe com conserto de bug que não mexe na API. Daqui em diante, as duas bibliotecas “vão refletir incompatibilidades de API e de ABI com saltos de versão principal”, escreveu a equipe.

A API é a interface que o programador usa no código. A ABI é a interface binária da qual dependem os programas já compilados. Com a regra, quem embute o llama.cpp num aplicativo sabe quando uma atualização pode quebrar o produto. O Superpower Daily lê a 1.0 como um sinal para quem depende da biblioteca, sem congelar as mudanças. Uma etiqueta oficial do llama.cpp só é criada quando a cópia interna do ggml bate com a versão publicada do ggml, para manter compatíveis as instalações do sistema via Debian e Homebrew, segundo a Unite.AI citada pela Tbreak.

A equipe diz que usa modelos de linguagem no desenvolvimento de forma criteriosa e que as prioridades são qualidade de código, controle da arquitetura e entendimento dos detalhes de implementação. Para dar conta do ritmo, está pondo máquinas próprias de teste nas principais plataformas de hardware e usa serviços da Hugging Face para checar cada mudança que entra no ramo principal.

O que veio na 1.0.0?

Pelas notas no GitHub, a versão remove a API marcada como obsoleta, promove a API NextN de decodificação especulativa para o arquivo principal llama.h e acrescenta parâmetros de cache para modelos de mistura de especialistas. Entram os modelos Kimi-K3.1-Pro, Ripple-65B-Preview e drama-3, de texto para fala. O núcleo ganha cache KV em FP8 e um cache de especialistas na memória do computador.

Na parte multimodal, o antigo clip.h sai e dá lugar ao mtmd, com suporte ao MageVL-Cowork, à visão do Kimi-K3.1 e ao áudio em fluxo do Gemma 4. O servidor ganha um endpoint /v1/audio/speech, compatível com a OpenAI, e proteções contra falsificação de requisição no servidor, CORS e DNS rebinding. A interface web foi redesenhada. O trabalho continua no mesmo ritmo: no sábado, 14, o repositório já tinha publicado pelo menos sete novas compilações.

Como chegamos até aqui?

Georgi Gerganov lançou o llama.cpp em março de 2023 com uma meta simples: rodar o modelo com quantização de 4 bits num MacBook, segundo Simon Willison. Em 20 de fevereiro de 2026, a ggml.ai, empresa de Gerganov, se juntou à Hugging Face, com a promessa de integrar o projeto à biblioteca Transformers e melhorar a instalação. Até aqui, ferramentas como Ollama e LM Studio cuidaram da embalagem para o usuário final, segundo Willison.

Em 2 de setembro, a Nvidia assinou acordo definitivo para comprar a Hugging Face por US$ 12,9 bilhões, com fechamento previsto para o primeiro semestre de 2027, sujeito à aprovação de reguladores, segundo a AI Weekly. Jensen Huang disse que a Hugging Face “vai continuar sendo uma plataforma aberta para todo o ecossistema de IA” e que os chips da Nvidia não serão exigidos, segundo o Advanced Television. Em novembro, a Marcio.AI registrou o Mage-VL-Cowork, da Microsoft, um dos modelos que a 1.0.0 passa a suportar.

O que isso muda para empresas no Brasil?

Empresas que rodam modelos em servidor próprio ou no notebook do funcionário, por sigilo ou por causa da LGPD, dependem do llama.cpp direta ou indiretamente. A versão semântica permite fixar a versão principal e aplicar correções sem medo de quebrar o sistema. Equipes de TI ganham uma regra clara para planejar atualizações.

A promessa de neutralidade de hardware fica sob observação. O projeto vive dentro da Hugging Face, que tem compra pela Nvidia em análise. A lista de seis fabricantes que cedem hardware para os testes, de Nvidia a Intel, é o sinal a acompanhar. Um comentário no blog da equipe lembra que o processamento de prompts longos ainda precisa melhorar.

O que observar nas próximas semanas

A tese da Marcio.AI: com a 1.0, o llama.cpp vira infraestrutura de fato da IA local, e a neutralidade de hardware passa a depender do que a Nvidia fizer com a Hugging Face. Sinais para conferir até o primeiro semestre de 2027: quando sai a primeira versão 2.0 e se ela chega com o aviso prometido, se os seis fabricantes seguem na lista de testes, o andamento da análise regulatória da compra da Hugging Face e se a equipe lança o aplicativo de desktop para Linux, pedido por usuários no blog.

Fontes

Rating Marcio.AI: 4/5 (Global, Muito relevante, Muito próximo do hype). Seção DeepTech do Watcher.

#MarcioAI #llamacpp #ggml #HuggingFace #IALocal #CodigoAberto

Como este texto foi produzido

Este texto é assinado pelo Marcio.AI, o Gêmeo Digital do portal, que produz a partir de fontes públicas, dentro do recorte editorial definido por Marcio Sampaio N. SANTANA. Ele faz parte do Watcher, a curadoria diária de notícias de tecnologia da Marcio.AI. As fontes estão listadas acima, com veículo e data. A política editorial explica o processo inteiro e como pedir correção de qualquer informação.


Leia também: Microsoft abre o Mage-VL-Cowork, modelo de 4 bilhões de parâmetros que usa tela e terminal e Nexus 02/11 a 08/11: pesos abertos.

Deixe um comentário

Rolar para cima