أعلنت كوالكوم أنها أكدت في المختبر أول شريحة سيليكون HBC (الحوسبة عالية النطاق الترددي) لديها، وهي بنية تجعل الحوسبة أقرب إلى الذاكرة لتجاوز « جدار الذاكرة ». ووفقًا للشركة، أظهرت الاختبارات زيادة في عرض النطاق الترددي قد تصل إلى 18 ضعفًا مقارنة بـ LPDDR.
تكمن المشكلة في مرحلة الاستدلال، أي المرحلة التي ينتج فيها نموذج الذكاء الاصطناعي إجاباته. وفقًا لكوالكوم، أصبحت أداءاته تعتمد بشكل متزايد على السرعة التي يمكن للشريحة من خلالها تزويد الحوسبة بالبيانات، وأقل على قوتها الحسابية الخام. يؤثر هذا الحد على أداء النماذج وتكلفة تشغيل أحمال عمل الذكاء الاصطناعي.
للتصدي لهذه المشكلة، تميز الشركة بين ثلاث مقاربات. تتمثل الأولى في استضافة النموذج في ذاكرة سريعة مدمجة في الشريحة، والثانية في استخدام ذاكرة عالية النطاق الترددي مكدسة (HBM) حول المعالج. تدافع كوالكوم عن نهج ثالث، هو الحوسبة بالقرب من الذاكرة، مما يقرب الحوسبة من الذاكرة التي تحتوي على البيانات.
حجة تتعلق بالطاقة
وصف جيراردو جياريتا، نائب الرئيس والمدير العام لنشاط وحدة المعالجة المركزية والذكاء الاصطناعي لمراكز البيانات في كوالكوم، حدود البنية الحالية. قال للصحفيين والمحللين: « في البنية التقليدية، لدينا عادةً ذاكرة DDR، وذاكرة في علبة وغالبًا بسعة كبيرة، ولكن برابط ضيق ينقل البيانات ببطء شديد ». وأضاف أن الذكاء الاصطناعي اعتمد حتى الآن بشكل رئيسي على بنية HBM، والتي يشكل تكلفتها واستهلاكها للطاقة وتعقيد تغليفها، في رأيه، عائقًا.
مع HBC، يتم تكديس ذاكرة، في هذه الحالة تعتمد على LPDDR، فوق شريحة حوسبة. أوضح جيراردو جياريتا: « لم تعد مضطرًا لنقل البيانات في حزم ». تنتقل البيانات مسافة ميكرومترات بدلاً من ملليمترات، مما يحسن، وفقًا له، الاستهلاك والكفاءة الطاقة بشكل ملحوظ.
نتائج التحقق
تشير كوالكوم إلى أن أول شريحة HBC لديها تمتلك الآن مسارًا كاملاً للقراءة والكتابة في الذاكرة بالإضافة إلى عمليات حسابية بالقرب من الذاكرة، تم التحقق منها بمستويات الإنتاج. استخدم المهندسون معدات اختبار آلية (ATE) متوافقة مع معايير الصناعة. تشير القياسات إلى كفاءة طاقة أعلى بخمس مرات، معبرًا عنها بالتيرابت في الثانية لكل واط، مقارنة بـ HBM4، الجيل السادس من الذاكرة عالية النطاق الترددي.
يجب دمج HBC في شريحة Dragonfly AI250، التي بدأ إنتاجها بالفعل ومن المقرر إطلاقها العام المقبل. تتوقع كوالكوم أن تبدأ AI250 مرحلة أخذ العينات في النصف الأول من عام 2027. وفقًا لجيراردو جياريتا، فإن التحقق « مهم بشكل خاص » للشركة: « حلنا لا يقتصر على الذاكرة. لهذا نسميه HBC، أي الحوسبة عالية النطاق الترددي ».
تضع كوالكوم هذه الخطوات في خطة طريق متعددة السنوات. من المقرر أيضًا أن تخضع وحدات المعالجة المركزية Dragonfly C1000 لأخذ العينات العام المقبل، ومن المتوقع وصول عينات Dragonfly AI300 في عام 2028. تعمل المجموعة أيضًا مع عدة شركاء لتحديد الاستخدامات المختلفة المحتملة لـ HBC، والتي لن تقتصر على Dragonfly AI250.
