La versión 2.15 de PyTorch, la biblioteca de aprendizaje automático, incorpora el formato FP8 en los Mac y acelera notablemente la decodificación de modelos de mezcla de expertos (mixture-of-experts). Según el equipo de PyTorch de Hugging Face, que firma el anuncio, la versión también incluye nuevos núcleos Metal para audio, vídeo y entrenamiento. El backend MPS, objetivo de estos trabajos, permite ejecutar los modelos PyTorch en la GPU de los Mac.
Para los modelos de lenguaje, la mejora más visible afecta a los modelos de mezcla de expertos, donde cada capa distribuye los tokens entre varios expertos. Según la fuente, estos modelos decodifican 5 a 6,5 veces más rápido que con PyTorch 2.14. En un M3 Ultra con torch.compile, Qwen3.6-35B-A3B pasa de 9,4 a 61,3 tokens por segundo, y LFM2.5-8B-A1B de 23,6 a 123,6 tokens por segundo. Los modelos densos también se benefician de capas lineales más rápidas. El muestreo de texto se acelera mediante el cálculo del softmax: en una línea de logits de tamaño [1, 128256] en FP32, el tiempo pasa de 57 µs a 7 µs, es decir, aproximadamente ocho veces más rápido que la versión MPSGraph.
El FP8 llega a Mac
PyTorch 2.15 añade los tensores torch.float8_e4m3fn en MPS. Cada valor ocupa un byte, la mitad del espacio del FP16 o del BF16, lo que reduce la memoria necesaria para los pesos de un modelo. Estos tensores se multiplican con F.scaled_mm, que gestiona las escalas por tensor y por fila. La fuente también indica que las demás operaciones soportadas en CUDA y CPU ahora lo están en MPS.
Las prestaciones de generación de vídeo también se ven afectadas. La decodificación del VAE en mosaico de Wan2.2 hacía subir la memoria del controlador hasta 270 GiB, ya que el relleno constante generaba 8 764 llamadas en una decodificación completa de 28 mosaicos. Con el relleno reescrito en Metal, el pico cae a unos 8 GiB. El mismo cambio corrige un defecto reportado en ComfyUI, donde el codificador VAE de Qwen-Image-2.1 alteraba silenciosamente las imágenes en MPS. Un ciclo completo de codificación-decodificación alcanza ahora 29,95 dB de PSNR frente a la CPU, frente a 10,06 dB anteriormente.
Para usar la versión, se necesita un Mac con un chip Apple silicon, macOS 15 o posterior y Python 3.11 o posterior. El equipo indica que la versión candidata puede instalarse en un entorno separado con el comando uv pip install torch==2.15.0, usando un índice dedicado. También precisa que la verificación de disponibilidad de MPS ahora indica la razón de un fallo, por ejemplo, un sistema operativo demasiado antiguo o la ausencia de GPU Metal.
