تأتي البيانات من دراسة STCO الحرارية (التحسين المشترك لتكنولوجيا النظام) لدمج ذاكرة النطاق الترددي العالي (HBM) على وحدة معالجة الرسومات عن طريق التراص، والتي وصفها المختبر بأنها بنية حسابية واعدة لتطبيقات الذكاء الاصطناعي من الجيل التالي.
لقد قارنت هذا التكديس “ثلاثي الأبعاد” مع الجيل الحالي “2.5D” من وحدة معالجة الرسومات جنبًا إلى جنب مع مجموعات من قوالب الذاكرة (انظر الرسم البياني).
“من خلال الجمع بين التكنولوجيا واستراتيجيات التخفيف على مستوى النظام، يمكن تقليل درجات حرارة الذروة لوحدة معالجة الرسومات من 140.7 درجة مئوية إلى 70.8 درجة مئوية في ظل أعباء عمل تدريب الذكاء الاصطناعي الواقعية – على قدم المساواة مع خيارات التكامل 2.5D الحالية”. “توضح النتيجة قوة التحسين المشترك للمقابض في جميع طبقات التجريد المختلفة.”
سيسمح التكامل المكدس بما يصل إلى أربع وحدات معالجة رسومات لكل حزمة.
وقالت IMEC: “ومع ذلك، فإن نهج التكامل ثلاثي الأبعاد العدواني عرضة للمشاكل الحرارية بسبب ارتفاع كثافة الطاقة المحلية والمقاومة الحرارية العمودية”.
تم تصميم أربع مجموعات من الذاكرة، يتكون كل منها من اثني عشر قالبًا دراماتيكيًا هجينًا، تم صدمها بشكل دقيق مباشرة أعلى قالب وحدة معالجة الرسومات (انظر الرسم البياني).
كانت 141.7 درجة مئوية هي درجة حرارة النقطة الساخنة مع تبريد الجانب العلوي وبدون تخفيف حراري، مقارنة بـ 69.1 درجة مئوية لنموذج التكامل 2.5D لنفس القالب مع نفس التبريد.
بحثًا عن التحسين، تضمنت التعديلات الحرارية الفيزيائية إزالة القالب الأساسي من الذاكرة، ودمج مجموعات الذاكرة، وتخفيف القالب العلوي، والخطوة الرئيسية المتمثلة في إضافة التبريد على الوجهين (الرسم البياني الصحيح).
أبعد من ذلك، كان لا بد من تقسيم تردد التشغيل على اثنين للوصول إلى درجة حرارة 2.5D.
أ) يتدهور إنتاجية الأداء عند التردد المنخفض، ويتم استرداده جزئيًا بزيادة عرض النطاق الترددي بمقدار 4 أضعاف
ب) تتحسن الإنتاجية لكل منطقة حزمة بفضل المساحة الأصغر
(باستثناء الفوائد من وحدات معالجة الرسومات الإضافية لكل حزمة)
وقال جيمس مايرز، مدير برنامج Imec: “إن خفض التردد الأساسي لوحدة معالجة الرسومات إلى النصف أدى إلى رفع درجة حرارة الذروة من 120 درجة مئوية إلى أقل من 100 درجة مئوية”. “على الرغم من أن هذه الخطوة تأتي مع تباطؤ بنسبة 28% في خطوات تدريب الذكاء الاصطناعي، إلا أن الحزمة الشاملة تتفوق على خط الأساس 2.5D بفضل كثافة الإنتاجية الأعلى التي يوفرها التكوين ثلاثي الأبعاد. نحن نستخدم حاليًا هذا النهج لدراسة تكوينات ذاكرة GPU الأخرى – على سبيل المثال، وضع وحدات معالجة الرسومات فوق الذكريات.”
تعمل شركة Imec من خلال التعاون مع الصناعة. وهي تبحث حاليًا عن شركاء، بما في ذلك شركات fabless وشركات الأنظمة، للانضمام إلى برنامج “XTCO”، وهو برنامج يدرس التحسين المشترك عبر التكنولوجيا نحو أنظمة الحوسبة المتقدمة القوية حرارياً.
كان التحقيق في الذاكرة على وحدة معالجة الرسومات “المرة الأولى التي نعرض فيها قدرات برنامج XTCO الخاص بشركة Imec”، كما قال جوليان ريكارت، نائب رئيس التقنيات المنطقية في المختبر.
