Hugging Face kündigt die Version 1.0 von AnyLanguageModel an, einer Bibliothek, die das Foundation Models Framework von Apple direkt ersetzt und es Entwicklern ermöglicht, das von ihrer App verwendete Modell und den Anbieter zu wählen. Sie wird zusammen mit swift-huggingface 1.0 und swift-xet 1.0 veröffentlicht.
Das Projekt entstand aus Rückmeldungen von App-Entwicklern, die sich für lokal ausgeführte Modelle interessierten, aber nicht immer wussten, wie sie vorgehen sollten. Sie wollten auch die Komplexität der Unterstützung mehrerer Inferenzanbieter vermeiden. Lokale und gehostete Modelle haben jeweils ihre Stärken, und eine gemeinsame API soll die Auswahl des für jede Aufgabe geeigneten Modells erleichtern.
Eine kompatible API und neue Funktionen
Das Grundprinzip bleibt dasselbe: die Foundation Models API mit dem für die App passenden Modell nutzen. Für die Migration muss nur die Zeile import FoundationModels durch import AnyLanguageModel ersetzt werden, der gleiche Sitzungscode funktioniert dann mit dem Systemmodell, mit Open-Source-Modellen, die über llama.cpp, MLX und Core ML ausgeführt werden, sowie mit gehosteten Anbietern.
Mehrere Funktionen wurden hinzugefügt. Tool-Aufrufe funktionieren mit allen Anbietern, ebenso wie die gelenkte Generierung, auch mit verschachtelten @Generable-Typen und Arrays dieser Typen. Die Bildunterstützung ermöglicht es, Bilder gemäß der Syntax von Foundation Models 27 an Anfragen anzuhängen, auch mit dem Systemmodell unter iOS, macOS und visionOS 27. Unter OS 27 funktioniert die Bibliothek auch mit jedem Modell, das dem LanguageModel-Protokoll von Foundation Models entspricht, insbesondere mit Core AI-Modellen.
Auf der gehosteten Seite unterstützt die Bibliothek die Chat Completions und Responses APIs von OpenAI, Open Responses, die Messages API von Anthropic mit adaptiven Reflexions- und Effort-Optionen, die Gemini API von Google und Ollama. Sie verwaltet auch Private Cloud Compute unter OS 27 sowie Hugging Face Inference Providers und andere OpenAI-kompatible Endpunkte wie OpenRouter über eine benutzerdefinierte Basis-URL. Dank Inference Providers können Open-Source-Modelle, die für das Gerät zu groß sind, mit demselben Code verwendet werden, zum Beispiel openai/gpt-oss-120b.
Gehostete Anbieter profitieren von denselben Funktionen wie lokale Modelle: gelenkte Generierung, Streaming-Tool-Aufrufe und Token-Zählung in Antworten. Reasoning ist nun Teil der Transkription. Beim Wechsel des Anbieters werden Reasoning-Blöcke automatisch aus Anfragen entfernt, wenn der neue Anbieter sie nicht wiedergeben kann. API-Schlüssel werden auch über eine Funktion statt eines Strings bereitgestellt, was es der App ermöglicht, kurzlebige Tokens von ihrem eigenen Server abzurufen. Schließlich funktioniert die Bibliothek unter Linux, sodass derselbe Code serverseitig verwendet werden kann.
Leistungsfähigere Open-Source-Modelle
Unter den derzeit am häufigsten heruntergeladenen Modellen auf dem Hub nennt der Artikel Gemma 4 E2B von Google im GGUF-Format, etwa 3,4 GB groß in Q4_0 mit quantisierungsempfindlichem Training, und LFM2.5 2.6B von Liquid AI, etwa 1,7 GB groß in Q4_K_M. Qwen3.8 27B für MLX von Alibaba wiegt etwa 16 GB in 4-Bit. Laut Artikel passen die ersten beiden auf ein iPhone, und Qwen3.8 27B läuft auf einem Mac mit mindestens 32 GB Arbeitsspeicher.
Für die schwersten Konfigurationen belegt GLM-5.3 von Z.ai laut Text etwa 1,5 TB in BF16 und bleibt über Inference Providers zugänglich. Hugging Face gibt außerdem an, dass Funktionen für ‘Modelle, die entscheiden’ und ‘Modelle, die zuhören’ in Kürze verfügbar sein werden.
