أعلنت Hugging Face عن دعمها الأصلي لـ Trainium، شريحة AWS، وذلك بفضل TorchNeuron، وهو واجهة خلفية جديدة لـ PyTorch. يمكن الآن تشغيل Transformers وDiffusers وKernels مباشرةً على هذه الشريحة، مما ينبغي أن يسهل تشغيل النماذج على Trainium ومشاركتها على مركز Hugging Face. وفقًا للمصدر، ستكون نسخة تجريبية عامة متاحة بدءًا من 20 أكتوبر 2026.
TorchNeuron هو امتداد لـ PyTorch، المكتبة المرجعية لتطوير نماذج التعلم الآلي. يضيف إلى PyTorch واجهة خلفية مخصصة لـ Trainium، مع وضع التنفيذ « الحثيث »، torch.compile (أداة لتحسين الكود) وواجهات برمجة التطبيقات الموزعة الأصلية مثل FSDP وTP. سيتمكن الباحثون والمطورون من تثبيته باستخدام الأمر pip install torch-neuronx.
تغيير في النهج لمكتبات Hugging Face
حتى الآن، كان استخدام Trainium وInferentia، وهما شريحتان صممتهما AWS، إحداهما للتدريب الاقتصادي للنماذج والأخرى للاستدلال على نطاق واسع، يتم عبر مكتبة optimum-neuron. كانت هذه المكتبة تعتمد على حزمة torch-neuronx، التي كانت بدورها مبنية على PyTorch XLA، مما كان يتطلب التفكير « كمترجم »: موترات كسولة، وأشكال ثابتة فقط، وإعادة ترجمة عند كل كسر في الرسم البياني. تشير Hugging Face إلى أن optimum-neuron كانت تستخدم لإخفاء هذا التعقيد بفضل كود تمت صيانته خصيصًا.
يغير TorchNeuron هذا النهج من خلال التكامل مباشرة مع PyTorch، الذي يرى Neuron كجهاز طرفي أصلي. يصبح Trainium بعد ذلك مسرعًا مثل أي مسرع آخر لـ Transformers وDiffusers وAccelerate وPEFT وTRL، مع نفس الفئات والنصوص البرمجية. توصي Hugging Face الآن مستخدمي Neuron بالاعتماد على هذه المكتبات بدلاً من Optimum Neuron.
لدعم توليد النص، فإن التغطية واسعة: وفقًا لـ Hugging Face، 89% من أكثر 100 بنية نموذج لتوليد النص استخدامًا متوافقة مباشرة، مقارنة بـ 46% مع Optimum Neuron v0.4.5. يكفي تمرير الوسيطة device_map=neuron لنقل النموذج إلى أجهزة Neuron.
التدريب، الانتشار ونوى الحوسبة
للتدريب، يعمل نص برمجي قياسي للضبط الدقيق مع TRL على مثيل Trainium مع بعض الإعدادات الخاصة بـ Neuron. توضح Hugging Face أن المثال المنشور يستخدم Qwen/Qwen3-8B ومجموعة البيانات HuggingFaceH4/ultrachat_200k، وأنه تم تنفيذه على 8 شرائح Trainium2، أي 32 نواة Neuron، أي نصف مثيل trn2.48xlarge. نقطة الحفظ الناتجة هي نقطة تحقق Transformers قياسية، قابلة للاستخدام على أجهزة أخرى.
عدة خطوط أنابيب من Diffusers متوافقة مع TorchNeuron، في الوضع « الحثيث » والمترجم. تدعم FLUX.1-dev وFLUX.2 وQwen-Image وQwen-Image-2.1 وH3 أيضًا توازي الموترات، الذي يوزع كل طبقة من النموذج على عدة أنوية. تشير Hugging Face إلى أن خطوط أنابيب أخرى ستكون متوافقة تدريجيًا وأن هناك دليلًا يسمح بإضافة هذا الدعم بنفسك.
أخيرًا، ستستضيف مكتبة Kernels نوى حوسبة محسنة لـ Neuron، مكتوبة باستخدام واجهة نواة Neuron (NKI). تسمح نواة مخصصة لمحولات الرؤية، المنشورة على المركز، وفقًا للمصدر، بتسريع « يصل إلى x2.4 » على Trainium. تشكر Hugging Face فريق AWS على عمله على TorchNeuron واستجابته لملاحظات المجتمع.
