تقدم النسخة 2.15 من PyTorch، مكتبة التعلم الآلي، دعم تنسيق FP8 على أجهزة Mac وتسرع بشكل ملحوظ فك تشفير نماذج mixture-of-experts. وفقًا لفريق PyTorch في Hugging Face، الذي نشر الإعلان، تتضمن النسخة أيضًا نوى Metal جديدة للصوت والفيديو والتدريب. الواجهة الخلفية MPS، المستهدفة بهذه الأعمال، تسمح بتنفيذ نماذج PyTorch على معالج الرسوميات GPU في أجهزة Mac.
بالنسبة لـmodèles de langage، فإن التحسن الأكثر وضوحًا يتعلق بنماذج mixture-of-experts، حيث تقوم كل طبقة بتوزيع الرموز (tokens) بين عدة خبراء. وفقًا للمصدر، تقوم هذه النماذج بفك التشفير 5 إلى 6.5 مرة أسرع مقارنةً بـ PyTorch 2.14. على جهاز M3 Ultra مع torch.compile، تحسن أداء Qwen3.6-35B-A3B من 9.4 إلى 61.3 رمزًا في الثانية، و LFM2.5-8B-A1B من 23.6 إلى 123.6 رمزًا في الثانية. تستفيد النماذج الكثيفة أيضًا من طبقات خطية أسرع. تم تسريع أخذ عينات النص من خلال حساب softmax: على سطر من logits بحجم [1, 128256] بتنسيق FP32، انخفض الوقت من 57 ميكروثانية إلى 7 ميكروثانية، أي أسرع بحوالي ثماني مرات من نسخة MPSGraph.
FP8 يصل إلى أجهزة Mac
يضيف PyTorch 2.15 موترات torch.float8_e4m3fn على MPS. تشغل كل قيمة بايتًا واحدًا، أي نصف المساحة التي يشغلها FP16 أو BF16، مما يقلل الذاكرة اللازمة لأوزان النموذج. يتم ضرب هذه الموترات باستخدام F.scaled_mm، الذي يدير القياس لكل موتر ولكل صف. يشير المصدر أيضًا إلى أن العمليات الأخرى المدعومة على CUDA و CPU أصبحت مدعومة الآن على MPS.
أداء توليد الفيديو متأثر أيضًا. كان فك تشفير VAE المقطعي لـ Wan2.2 يرفع ذاكرة التشغيل إلى 270 جيجابايت، لأن الحشو الثابت كان يولد 8,764 استدعاء على عملية فك تشفير كاملة في 28 قطعة. مع إعادة كتابة الحشو بلغة Metal، انخفضت الذروة إلى حوالي 8 جيجابايت. نفس التغيير يصحح خللًا تم الإبلاغ عنه في ComfyUI، حيث كان مشفر VAE لـ Qwen-Image-2.1 يغير الصور بصمت على MPS. أصبحت دورة التشفير وفك التشفير الآن تصل إلى 29.95 ديسيبل من PSNR مقارنةً بـ CPU، مقابل 10.06 ديسيبل سابقًا.
لاستخدام هذه النسخة، يجب أن يكون لديك جهاز Mac مزود بشريحة Apple silicon، وmacOS 15 أو أحدث، وPython 3.11 أو أحدث. يشير الفريق إلى أنه يمكن تثبيت النسخة المرشحة في بيئة منفصلة باستخدام الأمر uv pip install torch==2.15.0، باستخدام فهرس مخصص. كما يوضحون أن التحقق من توفر MPS يشير الآن إلى سبب الفشل، مثل نظام تشغيل قديم جدًا أو عدم وجود GPU يدعم Metal.
