تخطط جوجل لنشر نسختين جديدتين من مسرعات TPU الخاصة بها العام المقبل، مخصصة لخدمتها السحابية، وربما لبعض العملاء الذين قد يحصلون على أجهزة لمراكز البيانات الخاصة بهم. يتعلق الأمر بـTPU 8tx وTPU 8i Max، المشتقة من شرائح Sunfish (TPU 8t) وZebrafish (TPU 8i) التي قدمتها جوجل في أبريل.
يتم تصنيع TPU 8t بواسطة قسم الشرائح في Broadcom ومن المتوقع أن يدخل بالفعل إلى مراكز بيانات جوجل. تم تصميم TPU 8i بالتعاون مع MediaTek، التي واجهت تأخيرات في وقت سابق من هذا العام، وليس من المؤكد ما إذا كان قد تم تسليمه بالفعل إلى جوجل. من المقرر تركيب النسخ المعدلة في عام 2027. وفقًا لمؤلف التحليل، فإن بدء التشغيل في الربع الأول من عام 2027 ممكن، مع زيادة تدريجية في السعة على مدى عام ونصف تقريبًا. هذه المهل شائعة: وحدات TPU Ironwood (v7p)، التي تم نشرها داخليًا في الربع الرابع من عام 2025، لم تُعرض للاستئجار على Google Cloud إلا بعد حوالي عام، عندما أصبحت السعة الفائضة كافية. تم الآن نشر أسعارها لمنطقتي US-Central1 (آيوا) وEurope-West2 (لندن).
TPU 8t، للتدريب
تم تصميم TPU 8t لأحمال عمل التدريب. تربط شبكة التوصيل ثلاثية الأبعاد الخاصة به حتى 9600 مسرع في مساحة ذاكرة مشتركة ومتسقة، بقوة معلنة تبلغ 121 إكسافلوب بدقة FP4. أشار مارك لوهماير، نائب الرئيس والمدير العام للذكاء الاصطناعي والبنية التحتية للحوسبة في جوجل، خلال مؤتمر هاتفي إلى أن هذه الآلات مجمعة في مجموعات (pods) من 9600 وحدة، ثم يتم تجميعها في عنقود يضم أكثر من مليون جهاز من TPU 8t. يُزعم أن هذا العنقود استُخدم لتدريب Gemini 4 Carbon، الذي طوره قسم DeepMind وتم الإعلان عنه في 28 أكتوبر.
للوصول عبر واجهة برمجة التطبيقات (API) عبر Google Cloud، يتمتع كل من Gemini 4 Carbon وGemini 4 Argon بـ « سعر تمهيدي » قدره 2 دولار لكل مليون رمز إدخال و10 دولارات لكل مليون رمز إخراج. يتم فرض رسوم على رموز الإدخال المخزنة مؤقتًا بخصم 95٪ مقارنة بسعر رموز الإدخال.
TPU 8tx وTPU 8i Max، للاستدلال
TPU 8tx هو نسخة من TPU 8t موجهة للاستدلال، أي تشغيل النماذج بعد تدريبها، على الرغم من أنه يمكن استخدامه أيضًا للتدريب خلال فترات الخمول. تستبدل جوجل شبكة التوصيل ثلاثية الأبعاد بشبكة توصيل boardfly، وهي نسخة من طوبولوجيا dragonfly صممتها الشركة نفسها. وبالتالي، تنخفض عدد المسرعات في المجموعات (pods) من 9600 إلى 1152 مسرعًا. وفقًا للتحليل المنشور، فإن متوسط زمن الانتقال (latency) لهذا النظام سيكون أقل بحوالي مرتين من طوبولوجيا التوصيل ثلاثية الأبعاد. كما تم استبدال خادم المعالج Axion، ذو بنية Arm، بمعالج AMD Epyc لم يتم تسمية طرازه. يُعزى هذا الاختيار إلى مسرعات التشفير وجذر الثقة المدمجة في هذه المعالجات، والتي تسمح بإبقاء البيانات مشفرة حتى لحظة المعالجة.
أما TPU 8i Max، فهو يستهدف أحمال العمل ذات السياقات الطويلة. فهو يضاعف عدد مجمعات Zebrafish لكل مقبس (socket)، لكن سعة ذاكرة HBM لكل مقبس تزيد بنسبة 33٪ فقط مقارنة بـ TPU 8i الأصلي. كانت كل شريحة من TPU 8i الأصلي تحتوي على 288 جيجابايت من الذاكرة، مقابل 192 جيجابايت لكل شريحة في TPU 8i Max، مع عرض نطاق ترددي ثابت يبلغ 8.6 تيرابايت/ثانية. يقوم هذا التكوين بتوزيع الذاكرة على عدد أكبر من الشرائح، التي يتم اقترانها لتشكيل ذاكرة مشتركة أكبر.
TPU Sync، إدارة الذاكرة
طورت جوجل أيضًا TPU Sync، وهي طبقة برمجية لإدارة الذاكرة الهرمية، تعمل فوق وحدات TPU. قال مارك لوهماير: « هذا يعني أن وحدات TPU غالبًا ما تكون خاملة جزءًا كبيرًا من الوقت ». « إذا أردنا الاحتفاظ بهذه الموارد محجوزة حتى عندما لا تكون قيد الاستخدام، فسيؤدي ذلك إلى خلق عدم كفاءة هائلة، خاصة وأن أحمال العمل الوكيلية (agentic) هذه بدأت تكتسب زخمًا حقًا. » وفقًا له، يقوم TPU Sync بنقل ذاكرة العمل خارج الشريحة عندما يتوقف الوكيل، ثم يعيدها عند استئناف المعالجة. نظرًا لأنه برنامج، يمكن لجوجل تطبيقه على الأجيال السابقة، وقد فعلت الشركة ذلك لوحدات TPU 5 و6 و7 و8. ويشير التحليل إلى أن زيادة معدل نقل (throughput) الاستدلال التي يوفرها TPU Sync لم يتم تحديد قيمتها كميًا.
