Hugging Face annuncia la versione 1.0 di AnyLanguageModel, una libreria che sostituisce direttamente il framework Foundation Models di Apple e consente agli sviluppatori di scegliere il modello e il fornitore utilizzati dalla loro applicazione. Viene pubblicata insieme a swift-huggingface 1.0 e swift-xet 1.0.
Il progetto è nato dai feedback di sviluppatori di applicazioni interessati ai modelli eseguiti in locale, senza sempre sapere come procedere. Desideravano anche evitare la complessità di una gestione di più fornitori di inferenza. I modelli locali e i modelli ospitati hanno ciascuno i propri punti di forza, e un’API comune deve facilitare la scelta del modello adatto a ogni compito.
Un’API compatibile e nuove funzioni
Il principio di partenza rimane lo stesso: utilizzare l’API Foundation Models con il modello adatto all’applicazione. Per migrare, basta sostituire la riga import FoundationModels con import AnyLanguageModel, lo stesso codice di sessione funzionando poi con il modello di sistema, con modelli aperti eseguiti via llama.cpp, MLX e Core ML, così come con i fornitori ospitati.
Diverse funzioni sono state aggiunte. La chiamata di strumenti funziona con tutti i fornitori, così come la generazione guidata, anche con tipi @Generable annidati e array di questi tipi. Il supporto delle immagini permette di allegare immagini alle richieste secondo la sintassi di Foundation Models 27, anche con il modello di sistema su iOS, macOS e visionOS 27. Sotto OS 27, la libreria funziona anche con qualsiasi modello conforme al protocollo LanguageModel di Foundation Models, in particolare i modelli Core AI.
Per quanto riguarda l’hosting, la libreria supporta le API Chat Completions e Responses di OpenAI, Open Responses, l’API Messages di Anthropic, con le opzioni di riflessione adattativa e sforzo, l’API Gemini di Google e Ollama. Gestisce anche Private Cloud Compute sotto OS 27, così come Hugging Face Inference Providers e altri endpoint compatibili OpenAI, come OpenRouter, via un URL di base personalizzato. Grazie a Inference Providers, modelli aperti troppo grandi per il dispositivo possono essere utilizzati con lo stesso codice, ad esempio openai/gpt-oss-120b.
I fornitori ospitati beneficiano delle stesse funzioni dei modelli locali: generazione guidata, chiamata di strumenti in streaming e conteggio dei token nelle risposte. Il ragionamento fa ora parte della trascrizione. Quando si cambia fornitore, i blocchi di ragionamento vengono automaticamente rimossi dalle richieste se il nuovo fornitore non può riprodurli. Le chiavi API sono anche fornite da una funzione piuttosto che da una stringa di caratteri, il che permette all’applicazione di recuperare token a breve durata dal proprio server. Infine, la libreria funziona sotto Linux, permettendo di utilizzare lo stesso codice lato server.
Modelli aperti più performanti
Tra i modelli più scaricati sull’Hub in questo momento, l’articolo cita Gemma 4 E2B di Google, in formato GGUF, di circa 3,4 GB in Q4_0 con addestramento sensibile alla quantizzazione, e LFM2.5 2.6B di Liquid AI, di circa 1,7 GB in Q4_K_M. Qwen3.8 27B per MLX, di Alibaba, pesa circa 16 GB in 4 bit. Secondo l’articolo, i primi due stanno su un iPhone, e Qwen3.8 27B funziona su un Mac con almeno 32 GB di memoria.
Per le configurazioni più pesanti, GLM-5.3 di Z.ai occupa circa 1,5 TB in BF16, secondo il testo, e rimane accessibile via Inference Providers. Hugging Face indica inoltre che funzioni di « modelli che decidono » e « modelli che ascoltano » arriveranno presto.
