تلقت Furiosa الدفعة الأولى من 4000 وحدة من TSMC وASUS، والجهاز متاح إما كبطاقة PCIe مستقلة أو خادم جاهز.
يقول جون بايك، الرئيس التنفيذي لشركة Furiosa، “مع شحن RNGD الآن، فإننا نمنح المؤسسات القدرة على تشغيل دورات LLM الأكثر تقدمًا والذكاء الاصطناعي الوكيل على نطاق واسع، دون فرض عقوبات هائلة على الطاقة والبنية التحتية للحلول القديمة. تحتاج الصناعة إلى بديل عالي الأداء يعمل على الرفوف الموجودة لديك اليوم.”
RNGD هو مسرع استدلال لمراكز البيانات لنماذج اللغة المتقدمة والذكاء الاصطناعي التوليدي والوكيل. فهو يوفر الأداء (512 INT8 TFLOPS) وكفاءة الطاقة.
حصلت FuriosaAI على اعتماد EXAONE من LG AI Research وأقامت عرضًا عامًا لنماذج gpt-oss بالتعاون مع OpenAI في النصف الثاني من العام الماضي.
تدعي RNGD أنها توفر كثافة حوسبة أكبر بمقدار 3.5 مرة (الإنتاجية لكل حامل) مقارنة بالأنظمة المستندة إلى H100 في البيئات القياسية. يتوفر RNGD الآن في شكلين:
بطاقة RNGD PCIe: مسرّع مدمج يوفر أداء الطراز الحدودي عند 180 وات TDP صارم.
خادم NXT RNGD: خادم مثبت على حامل مكون من 4 وحدات يعمل بنظام التوصيل والتشغيل ويحتوي على 8 بطاقات RNGD. نظرًا لأن النظام يستهلك 3 كيلووات، يمكنك تجميع خمسة خوادم NXT RNGD في حامل قياسي واحد يتم تبريده بالهواء، مما يوفر 20 بيتافلوب (INT8) لكل حامل.
يتم دعم RNGD بواسطة SDK الذي يوفر تقنيات تحسين متقدمة، مثل توازي الموتر بين الشرائح، ودعم النماذج الشائعة مثل Qwen 2 وQwen 2.5.
توفر Furiosa SDK دعم torch.compile، واستبدالًا مباشرًا لـ vLLM، وتوافق OpenAI API، مما يمكّن المطورين من التحرك بسرعة مع الحد الأدنى من التغييرات على التعليمات البرمجية الحالية الخاصة بهم.
تدعم الآن العناصر المجمعة مسبقًا على Hugging Face Hub أطوال سياق تصل إلى 32 ألف رمز، مما يتيح تطبيقات أكثر تعقيدًا ووعيًا بالسياق.
قامت Furiosa بتحسين نموذج GPT-OSS ذو المعلمة 120B الخاص بـ OpenAI للتشغيل على بطاقتي RNGD.
