Home الأجهزة والإلكترونيات يطلق ARM LUMEX للاستدلال على الحافة

يطلق ARM LUMEX للاستدلال على الحافة

9
0

فرضية Lumex هي أن الذكاء الاصطناعى هو عبء العمل الأساسي للهواتف المحمولة والاقتصاد يملي أن الاستدلال سيتم على الحافة.

وقال Arm SVP كريس بيرجي: “لم تعد الذكاء الاصطناعي ميزة ، إنها أساس من الجيل التالي من التكنولوجيا عبر الهاتف المحمول والموسيقى”.

تعد وحدة المعالجة المركزية C1 و Mali GPU G1 هي أسرع سلالاتها المصممة على الإطلاق بواسطة ARM على الرغم من أن أرقام الأداء المطلقة لم يتم نقلها – تحسينات السرعة النسبية فقط مقارنة بالنوى السابقة.

ويقال إن مجموعة C1 تقدم ارتفاعًا في أداء 5x في أداء الذكاء الاصطناعي ، وزيادة زمن انتقال 4.7x لأعباء العمل القائمة على الكلام وتوليد صوتي أسرع 2.8x. ويقال إن C1 قد حقق نموًا مزدوجًا في IPC.

هناك أربعة إصدارات من C1: – C1 Ultra توفر زيادة في الأداء بنسبة 25 ٪ من نور نوفر. يقدم C1-Premium أداءً مشابهًا ، ولكن ليس متساويًا ، للأداء الفائق في منطقة أصغر بنسبة 35 ٪ ؛ C1-PRO يوفر زيادة بنسبة 16 ٪ على Neocerse ؛ C1-Nano يقلل من استهلاك الطاقة بنسبة تصل إلى 26 ٪.

يقال إن G1 له أداء أفضل بنسبة 20 ٪ من Immortalis G925 ، و 20 ٪ من الاستدلال الأسرع ، و 9 ٪ طاقة أقل لكل إطار وتحسين 2x أداء تتبع الأشعة.

قامت ARM بترقية النوى الخاصة بها للتعامل مع أحمال الاستدلال من الذكاء الاصطناعي عن طريق تقديم امتداد مصفوفة قابلة للتطوير (SME).

ذراع يستفيد مكدس برامج Kleidiai تلقائيًا من SME/SME2 المطالبة بتزويد المطورين بما يصل إلى 5x – 12x تحسينات في الأداء في LLMs ومكتبات الاستدلال بدون تغييرات رمز مطلوبة. سيتم تمكين SME 2 عبر كل منصة CPU ARM.

Lumex جاهز على TSMC 3NM.


Source Link