تتميز اللوحة الإضافية السابقة بمسرعات الشبكة العصبية Hailo-8 (متغير 26-TOPS) وHailo-8L (متغير 13-TOPS). لكنها كانت تفتقر إلى القدرة على تشغيل نماذج الذكاء الاصطناعي التوليدية، وهو ما يعالجه AI HAT+ 2.
تشمل التطبيقات الممكنة المساعدين الصوتيين المعتمدين على Raspberry Pi، والتعرف على الكلام ومعالجة VLMs (نماذج لغة الرؤية) مثل تفسير المشاهد من دفق الكاميرا.
مواصفة
تتميز Raspberry Pi AI HAT+ 2 بمسرع الشبكة العصبية Hailo-10H وتوفر 40 TOPS (INT4) من أداء الاستدلال. وتقول الشركة إن هذا يكفي لضمان تشغيل أحمال عمل الذكاء الاصطناعي التوليدية بسلاسة على Raspberry Pi 5 المرتبط. وتتم المعالجة محليًا وبدون اتصال بالشبكة.
تتميز AI HAT+ 2 بذاكرة وصول عشوائي مدمجة بسعة 8 جيجابايت للتعامل مع نماذج أكبر بكثير من ذي قبل. على سبيل المثال، لتسريع نماذج اللغات الكبيرة (LLMs)، ونماذج لغة الرؤية (VLMs)، وتطبيقات الذكاء الاصطناعي التوليدية الأخرى.
نوش باتوككتب كبير المهندسين الرئيسيين في Raspberry Pi:
“بالنسبة للنماذج القائمة على الرؤية – مثل التعرف على الكائنات المستندة إلى Yolo، وتقدير الوضعية، وتجزئة المشهد – فإن أداء رؤية الكمبيوتر في AI HAT+ 2 يعادل إلى حد كبير أداء سابقتها 26-TOPS، وذلك بفضل ذاكرة الوصول العشوائي الموجودة على اللوحة. كما أنها تستفيد من نفس التكامل الوثيق مع مجموعة برامج الكاميرا لدينا (libcamera، وrpicam-apps، وPicamera2) مثل AI HAT+ الأصلي.”
AI HAT+ 2 ماجستير في القانون
دورات LLM المتوفرة للتثبيت عند الإطلاق هي: DeepSeek-R1-Distill وLlama3.2 وQwen2.5-Coder وQwen2.5-Instruct وQwen2. عادةً ما تعمل برامج LLM القائمة على الحافة، والتي يتناسب حجمها مع ذاكرة الوصول العشوائي المتوفرة على اللوحة، عند 1 إلى 7 مليار معلمة.
يدعم AI HAT+ 2 أيضًا الضبط الدقيق لنماذج اللغة المستندة إلى Low-Rank Adaptation (LoRA)، كما يقول Raspberry Pi، “مما يتيح التخصيص الفعال والمحدد للمهام لطلاب LLM المدربين مسبقًا مع الحفاظ على معظم معلمات النموذج الأساسي مجمدة”.
يثبت
لاحظ أن هناك Raspberry Pi مرشد للمساعدة في إعداده. ويعد Hailo’s GitHub repo مصدرًا للأمثلة والعروض التوضيحية والأطر لكل من التطبيقات القائمة على الرؤية وتطبيقات GenAI.
كان AI HAT + الأصلي قدَّم في أكتوبر 2024.
الصور: راسبيري بي
انظر أيضا: اضغط على محرك أقراص M.2 SSD داخل علبة Raspberry Pi 5
