Home الأجهزة والإلكترونيات تطلق Nvidia و Openai نماذج التفكير المفتوح المصدر

تطلق Nvidia و Openai نماذج التفكير المفتوح المصدر

2
0

اثنين من نماذج التفكير المنطق الجديد للقلق المفتوحين التي طورتها Openai و Nvidia- GPT-OSS-120B و GPT-OSS-20B – متاحة للمستخدمين.

يمكن لأي شخص استخدام النماذج لتطوير التطبيقات في توليديو التفكير و AI المادية، الرعاية الصحية والتصنيع – أو حتى فتح الصناعات الجديدة حيث تستمر الثورة الصناعية التالية التي يقودها الذكاء الاصطناعي.

Openai الجديد المرن والمفتوح على الأوزان النماذج اللغوية الكبيرة (LLMS) تم تدريب على NVIDIA H100 وحدات معالجة الرسومات و تشغيل الاستدلال بشكل أفضل على مئات الملايين من وحدات معالجة الرسومات التي تعمل نفيديا كودا منصة في جميع أنحاء العالم.

النماذج متوفرة الآن باسم Nvidia nim microservices، تقديم نشر سهل على أي بنية تحتية مقلدة من GPU مع المرونة وخصوصية البيانات والأمن على مستوى المؤسسة.

مع تحسينات البرامج ل نفيديا بلاكويل المنصة ، توفر النماذج الاستدلال الأمثل على Nvidia GB200 NVL72 الأنظمة ، تحقيق 1.5 مليون رمز في الثانية – مما يؤدي إلى كفاءة هائلة للاستدلال.

نظرًا لأن نماذج التفكير المتقدمة مثل GPT-OSS تولد المزيد من الرموز المميزة ، يزداد الطلب على البنية التحتية لحساب بشكل كبير. تلبية هذا الطلب يدعو إلى مصانع الذكاء الاصطناعى التي تم بناؤها لهذا الغرض مدعوم من Nvidia Blackwell ، وهي بنية مصممة لتقديم المقياس والكفاءة والعائد على الاستثمار المطلوب لتشغيل الاستدلال على أعلى مستوى.

تتضمن Nvidia Blackwell ابتكارات مثل NVFP4 الدقة 4 بت ، والتي تتيح الاستدلال فائق الكفاءة ، عالية الدقة مع تقليل متطلبات الطاقة والذاكرة بشكل كبير. هذا يجعل من الممكن نشر LLMs تريليونيرامتر في الوقت الفعلي ، والتي يمكن أن تفتح مليارات الدولارات في القيمة للمؤسسات.

NVIDIA CUDA هي البنية التحتية الحوسبة الأكثر توفرًا في العالم ، مما يتيح للمستخدمين نشر وتشغيل نماذج الذكاء الاصطناعى في أي مكان ، من الأقوياء Nvidia DGX Cloud منصة ل NVIDIA GEFORCE RTX– و Nvidia RTX Proأجهزة الكمبيوتر الشخصية ومحطات العمل.

هناك أكثر من 450 مليون تنزيل NVIDIA CUDA حتى الآن ، ويبدأ اليوم ، يمكن للمجتمع الضخم من مطوري CUDA الوصول إلى هذه النماذج الأخيرة ، وتم تحسينه على مكدس تقنية NVIDIA الذي يستخدمونه بالفعل.

إظهار التزامهم ببرمجيات التعليم المفتوح ، تعاونت Openai و Nvidia مع أفضل مقدمي الإطارات المفتوحة لتوفير تحسينات النماذج لـ FlashInfer و Ungging Face و Llama.cpp و Ollama و VLLM ، بالإضافة إلى nvidia tensor-rt llm والمكتبات الأخرى ، بحيث يمكن للمطورين البناء مع إطارهم المفضل.


Source Link