AnyLanguageModel 1.0 : un año de modelos locales en las plataformas de Apple

AnyLanguageModel 1.0 : un año de modelos locales en las plataformas de Apple
3 min de lectura

Hugging Face anuncia la versión 1.0 de AnyLanguageModel, una biblioteca que reemplaza directamente el framework Foundation Models de Apple y permite a los desarrolladores elegir el modelo y el proveedor utilizados por su aplicación. Se publica con swift-huggingface 1.0 y swift-xet 1.0.

  • Hugging Face publica AnyLanguageModel 1.0, que sustituye al framework Foundation Models de Apple.
  • La biblioteca permite elegir modelos locales o alojados con el mismo código.
  • Admite llamada de herramientas, generación guiada, imágenes y numerosos proveedores, también bajo Linux.
  • Gemma 4 E2B y LFM2.5 caben en un iPhone.

El proyecto nació de los comentarios de desarrolladores de aplicaciones interesados en modelos ejecutados localmente, sin saber siempre cómo proceder. También deseaban evitar la complejidad de dar soporte a múltiples proveedores de inferencia. Los modelos locales y los modelos alojados tienen sus ventajas respectivas, y una API común debe facilitar la elección del modelo adecuado para cada tarea.

Una API compatible y nuevas funciones

El principio inicial sigue siendo el mismo: usar la API Foundation Models con el modelo que conviene a la aplicación. Para migrar, basta con reemplazar la línea import FoundationModels por import AnyLanguageModel, el mismo código de sesión funcionando luego con el modelo del sistema, con modelos abiertos ejecutados vía llama.cpp, MLX y Core ML, así como con los proveedores alojados.

Se han añadido varias funciones. La llamada de herramientas funciona con todos los proveedores, al igual que la generación guiada, incluso con tipos @Generable anidados y arrays de estos tipos. El soporte de imágenes permite adjuntar imágenes a las peticiones según la sintaxis de Foundation Models 27, incluso con el modelo del sistema en iOS, macOS y visionOS 27. Bajo OS 27, la biblioteca también funciona con cualquier modelo conforme al protocolo LanguageModel de Foundation Models, en particular los modelos Core AI.

En cuanto a los alojados, la biblioteca soporta las API Chat Completions y Responses de OpenAI, Open Responses, la API Messages de Anthropic, con las opciones de reflexión adaptativa y esfuerzo, la API Gemini de Google y Ollama. También gestiona Private Cloud Compute bajo OS 27, así como Hugging Face Inference Providers y otros puntos de acceso compatibles con OpenAI, como OpenRouter, mediante una URL base personalizada. Gracias a Inference Providers, modelos abiertos demasiado grandes para el dispositivo pueden usarse con el mismo código, por ejemplo openai/gpt-oss-120b.

Los proveedores alojados se benefician de las mismas funciones que los modelos locales: generación guiada, llamada de herramientas en streaming y recuento de tokens en las respuestas. El razonamiento ahora forma parte de la transcripción. Al cambiar de proveedor, los bloques de razonamiento se retiran automáticamente de las peticiones si el nuevo proveedor no puede reproducirlos. Las claves de API también se proporcionan mediante una función en lugar de una cadena de caracteres, lo que permite a la aplicación recuperar tokens de corta duración desde su propio servidor. Finalmente, la biblioteca funciona bajo Linux, permitiendo usar el mismo código en el lado del servidor.

Modelos abiertos más eficientes

Entre los modelos más descargados en el Hub actualmente, el artículo cita Gemma 4 E2B de Google, en formato GGUF, de unos 3,4 GB en Q4_0 con entrenamiento sensible a la cuantización, y LFM2.5 2.6B de Liquid AI, de unos 1,7 GB en Q4_K_M. Qwen3.8 27B para MLX, de Alibaba, pesa unos 16 GB en 4 bits. Según el artículo, los dos primeros caben en un iPhone, y Qwen3.8 27B funciona en un Mac con al menos 32 GB de memoria.

Para las configuraciones más pesadas, GLM-5.3 de Z.ai ocupa unos 1,5 TB en BF16, según el texto, y sigue siendo accesible vía Inference Providers. Hugging Face indica además que funciones de « modelos que deciden » y « modelos que escuchan » llegarán próximamente.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x