A Hugging Face anuncia a versão 1.0 do AnyLanguageModel, uma biblioteca que substitui diretamente o framework Foundation Models da Apple e permite aos programadores escolher o modelo e o fornecedor utilizados pela sua aplicação. É publicada com swift-huggingface 1.0 e swift-xet 1.0.
O projeto nasceu do feedback de programadores de aplicações interessados em modelos executados localmente, nem sempre sabendo como proceder. Também queriam evitar a complexidade de suportar múltiplos fornecedores de inferência. Os modelos locais e os modelos alojados têm os seus pontos fortes, e uma API comum deve facilitar a escolha do modelo adequado para cada tarefa.
Uma API compatível e novas funções
O princípio inicial mantém-se o mesmo: usar a API Foundation Models com o modelo que convém à aplicação. Para migrar, basta substituir a linha import FoundationModels por import AnyLanguageModel, o mesmo código de sessão funcionando depois com o modelo do sistema, com modelos abertos executados via llama.cpp, MLX e Core ML, bem como com os fornecedores alojados.
Várias funções foram adicionadas. A chamada de ferramentas funciona com todos os fornecedores, tal como a geração guiada, inclusive com tipos @Generable aninhados e arrays desses tipos. O suporte de imagens permite anexar imagens aos pedidos de acordo com a sintaxe do Foundation Models 27, inclusive com o modelo do sistema em iOS, macOS e visionOS 27. No OS 27, a biblioteca também funciona com qualquer modelo conforme ao protocolo LanguageModel do Foundation Models, nomeadamente os modelos Core AI.
No lado alojado, a biblioteca suporta as API Chat Completions e Responses da OpenAI, Open Responses, a API Messages da Anthropic, com as opções de reflexão adaptativa e esforço, a API Gemini da Google e Ollama. Também gere o Private Cloud Compute no OS 27, bem como os Hugging Face Inference Providers e outros pontos de acesso compatíveis com OpenAI, como o OpenRouter, através de um URL base personalizado. Graças aos Inference Providers, modelos abertos demasiado volumosos para o dispositivo podem ser usados com o mesmo código, por exemplo openai/gpt-oss-120b.
Os fornecedores alojados beneficiam das mesmas funções que os modelos locais: geração guiada, chamada de ferramentas em streaming e contagem de tokens nas respostas. O raciocínio faz agora parte da transcrição. Quando se muda de fornecedor, os blocos de raciocínio são automaticamente removidos dos pedidos se o novo fornecedor não os puder reproduzir. As chaves de API também são fornecidas por uma função em vez de uma string, o que permite à aplicação obter tokens de curta duração do seu próprio servidor. Por fim, a biblioteca funciona no Linux, permitindo usar o mesmo código no lado do servidor.
Modelos abertos mais performantes
Entre os modelos mais descarregados no Hub neste momento, o artigo cita o Gemma 4 E2B da Google, no formato GGUF, com cerca de 3,4 GB em Q4_0 com treino sensível à quantização, e o LFM2.5 2.6B da Liquid AI, com cerca de 1,7 GB em Q4_K_M. O Qwen3.8 27B para MLX, da Alibaba, pesa cerca de 16 GB em 4 bits. Segundo o artigo, os dois primeiros cabem num iPhone, e o Qwen3.8 27B funciona num Mac com pelo menos 32 GB de memória.
Para as configurações mais pesadas, o GLM-5.3 da Z.ai ocupa cerca de 1,5 TB em BF16, segundo o texto, e mantém-se acessível via Inference Providers. A Hugging Face indica ainda que funções de « modelos que decidem » e « modelos que escutam » chegarão em breve.
