يزعم الطرازان AI200 وAI250 أنهما يقدمان أداءً واسع النطاق وسعة ذاكرة فائقة لاستنتاج الذكاء الاصطناعي السريع التوليدي بأداء عالٍ لكل دولار لكل واط.
يقدم AI200 حلاً استدلاليًا للذكاء الاصطناعي على مستوى الحامل مصممًا خصيصًا لتوفير تكلفة ملكية منخفضة وأداء محسنًا لاستدلال LLM وLMM وأحمال عمل الذكاء الاصطناعي الأخرى.
وهو يدعم 768 جيجابايت من LPDDR لكل بطاقة لتوفير سعة ذاكرة أعلى وتكلفة أقل، مما يتيح التوسع والمرونة في الاستدلال.
تعتمد بنية ذاكرة AI250 على حوسبة الذاكرة القريبة، مما يعمل على تحسين الكفاءة والأداء لأحمال عمل استدلال الذكاء الاصطناعي من خلال توفير عرض نطاق ترددي فعال للذاكرة أكبر من 10 مرات واستهلاك أقل للطاقة.
يتيح ذلك استنتاج الذكاء الاصطناعي المصنف للاستخدام الفعال للأجهزة مع تلبية متطلبات أداء العملاء والتكلفة.
يتميز كلا حلي الحامل بالتبريد السائل المباشر لتحقيق الكفاءة الحرارية، وPCIe للتوسيع، وEthernet للتوسيع، والحوسبة السرية لأحمال عمل الذكاء الاصطناعي الآمنة، واستهلاك طاقة على مستوى الحامل يبلغ 160 كيلووات.
وقالت دورجا مالادي، نائب الرئيس الأول لشركة كوالكوم: “إن حلول البنية التحتية الجديدة والمبتكرة للذكاء الاصطناعي تمكن العملاء من نشر الذكاء الاصطناعي المولد بتكلفة إجمالية للملكية غير مسبوقة، مع الحفاظ على المرونة والأمان الذي تتطلبه مراكز البيانات الحديثة”.
تم تحسين مجموعة برامج الذكاء الاصطناعي ذات المستوى الفائق، والتي تمتد من طرف إلى طرف من طبقة التطبيق إلى طبقة برمجيات النظام، لاستدلال الذكاء الاصطناعي.
يدعم المكدس أطر التعلم الآلي الرائدة (ML)، ومحركات الاستدلال، وأطر الذكاء الاصطناعي التوليدية، وتقنيات تحسين الاستدلال LLM / LMM مثل الخدمة المفصلة.
يستفيد المطورون من الإعداد السلس للنماذج ونشر نماذج Hugging Face بنقرة واحدة عبر مكتبة المحولات الفعالة التابعة لشركة Qualcomm Technologies ومجموعة Qualcomm AI Inference Suite. يوفر برنامجنا تطبيقات ووكلاء الذكاء الاصطناعي جاهزة للاستخدام، وأدوات شاملة، ومكتبات، وواجهات برمجة التطبيقات، وخدمات لتشغيل الذكاء الاصطناعي.
ومن المتوقع أن يكون AI200 وAI250 متاحين تجاريًا في عامي 2026 و2027 على التوالي.
