Shanghai Neardi Technology Co., Ltd. sales@neardi.com 86-021-20952021
لماذا تتحدث المزيد والمزيد من الأجهزة الطرفية عن وحدات المعالجة العصبية والمعالجات المساعدة؟ يعد RK3588 بالفعل SoC قويًا بقوة 6 TOPS (INT8)، ومع ذلك، في المشاهد المعقدة مثل الاستدلال متعدد المهام، وتوازي النماذج، وتحليلات الفيديو والذكاء الاصطناعي، لا يزال سقف الحوسبة لشريحة واحدة موجودًا. تم إنشاء RK1820 بالضبط لتولي هذه الشريحة من الحمل وتخفيف "قلق الحوسبة" الخاص بـ SoC الرئيسي. في معدات الذكاء الاصطناعي الطرفية، لم يعد المعالج المضيف يقاتل بمفرده؛ عندما تتجاوز مهام الذكاء الاصطناعي قدرة جدولة وحدة المعالجة المركزية/وحدة المعالجة العصبية التقليدية، يتدخل المعالج المساعد بهدوء ويتولى جزءًا من عبء العمل الذكي.
RK1820 هو معالج مساعد مصمم خصيصًا للاستدلال بالذكاء الاصطناعي وتوسيع الحوسبة؛ يتزاوج بمرونة مع مضيفات SoCs مثل RK3588 و RK3576 ويتواصل معها بكفاءة من خلال واجهات PCIe أو USB.
| فئة القدرة | المعلمات والوظائف الرئيسية |
|---|---|
| بنية المعالج | 3 نوى RISC-V بـ 64 بت؛ ذاكرة تخزين مؤقت L1 I-cache سعة 32 كيلو بايت + ذاكرة تخزين مؤقت L1 D-cache سعة 32 كيلو بايت لكل نواة، ذاكرة تخزين مؤقت L2 مشتركة سعة 128 كيلو بايت؛ RISC-V H/F/D-precision FPU |
| الذاكرة | 2.5 جيجابايت من ذاكرة DRAM ذات النطاق الترددي العالي على الشريحة + 512 كيلو بايت SRAM؛ دعم خارجي لـ eMMC 4.51 (HS200)، SD 3.0، SPI Flash |
| برنامج الترميز | تشفير JPEG: 16×16–65520×65520، YUV400/420/422/444؛ فك تشفير JPEG: 48×48–65520×65520، تنسيقات YUV/RGB متعددة |
| وحدة المعالجة العصبية (NPU) | 20 TOPS INT8؛ دقة مختلطة INT4/INT8/INT16/FP8/FP16/BF16؛ الأطر: TensorFlow/MXNet/PyTorch/Caffe؛ Qwen2.5-3B (INT4) 67 رمز/ثانية، YOLOv8n (INT8) 125 FPS |
| الاتصال | PCIe 2.1 (2 مسارات، 2.5/5 جيجابت في الثانية)، USB 3.0 (5 جيجابت في الثانية، مشتركة مع PCIe) |
| الوظائف الرئيسية | الاستدلال بالذكاء الاصطناعي الطرفي (الكشف/التصنيف/LLM)، الحوسبة العامة RISC-V، تسريع الرسومات ثنائية الأبعاد (التحجيم/التدوير)، أمان AES/SM4 |
في نظام RK3588 + RK1820، يتم تقسيم خط أنابيب مهام الذكاء الاصطناعي إلى بنية من أربع طبقات:
التطبيق → البرامج الوسيطة → تنفيذ المعالج المساعد → التحكم والعرض.
مضيف RK3588: يتعامل مع جدولة المهام، والمعالجة المسبقة للبيانات، وإخراج النتائج، وإدارة سير العمل بأكمله.
المعالج المساعد RK1820: مخصص للاستدلال بالذكاء الاصطناعي عالي الحوسبة، مقترن بالمضيف عبر PCIe، مما يشكل نموذج تعاون "تحكم خفيف + حوسبة ثقيلة".
| المرحلة | الفاعل | الإجراء |
|---|---|---|
| طلب التطبيق | RK3588 | استدعاء مهمة الذكاء الاصطناعي الصادر من طبقة التطبيق (التعرف/الكشف) |
| الإرسال | مرسل RK3588 | قرر ما إذا كان سيتم تفريغه إلى المعالج المساعد |
| الاستدلال | RK1820 | تشغيل حساب نموذج التعلم العميق |
| إرجاع | RK1820 → RK3588 | إرسال نتائج الاستدلال مرة أخرى؛ يعرض المضيف أو يواصل المنطق |
طبقة التطبيق هي المكان الذي تبدأ فيه كل مهمة من مهام الذكاء الاصطناعي؛ فهي تترجم متطلبات المستخدم - تحليلات الصور، واكتشاف الكائنات، و LLM Q&A على الجانب الطرفي، وما إلى ذلك - إلى أوامر مهام قابلة للتنفيذ في النظام وتمريرها إلى طبقة البرامج الوسيطة من خلال واجهات برمجة التطبيقات القياسية. يتم التعامل مع هذه الطبقة بالكامل بواسطة مضيف RK3588، الذي يدير تفاعل المستخدم، ومنطق العمل، والبيانات الطرفية.
استقبال المهام: يحصل على أوامر المستخدم عبر الكاميرات، ولوحات اللمس، و Ethernet، و UART، وما إلى ذلك.
توحيد الأوامر: يحول الإدخال غير المنظم إلى معلمات مهام منظمة
طبقة البرامج الوسيطة هي المحور التعاوني: فهي تحكم في كل مهمة، وتخصص الموارد، وتعالج البيانات مسبقًا، وتدير حركة مرور الحافلات. إنها تقرر ما إذا كانت المهمة تعمل على المضيف أو يتم تفريغها إلى المعالج المساعد.
RK3588 فقط؛ لا يشارك RK1820 في تكوين PCIe أو إدارة المقاطعة - فهو ببساطة ينفذ وظائف الاستدلال التي يرسلها المضيف.
تصنيف المهام والجدولة
المعالجة المسبقة للبيانات
التحكم في اتصالات الحافلات
هذه الطبقة هي جوهر الاستدلال، مدفوعة حصريًا بالمعالج المساعد RK1820، المخصص للاستدلال بالذكاء الاصطناعي عالي الحوسبة.
RK1820 نشط؛ لا يتداخل RK3588 مع الاستدلال، بل ينتظر فقط النتائج. يتم التعامل مع انتهاء المهلة أو الاستثناءات بواسطة RK3588 عبر أوامر إعادة تعيين PCIe.
استقبال المهام والتحضير
يتلقى البيانات وأوزان النموذج والأوامر التي يرسلها RK3588؛ يكتبها في ذاكرة DRAM ذات النطاق الترددي العالي المحلية، ويحمل النموذج، ويقوم بتكوين وحدة المعالجة العصبية.
حساب الاستدلال بوحدة المعالجة العصبية
إرجاع النتيجة
هذه الطبقة هي نهاية كل مهمة من مهام الذكاء الاصطناعي: فهي تحول نتائج الاستدلال الأولية من RK1820 إلى إخراج مرئي أو جاهز للأعمال وتغلق الحلقة.
RK3588 نشط؛ يوفر RK1820 فقط بيانات الاستدلال الأولية.
معالجة النتائج اللاحقة
التحكم في النظام وإخراج الملاحظات
قيمة التآزر: ليس فقط أسرع، ولكن أذكى
| المرحلة | الفاعل | الإجراء |
|---|---|---|
| طلب التطبيق | RK3588 | استدعاء مهمة الذكاء الاصطناعي الصادر من طبقة التطبيق (التعرف/الكشف) |
| الإرسال | مرسل RK3588 | قرر ما إذا كان سيتم تفريغه إلى المعالج المساعد |
| الاستدلال | RK1820 | تشغيل حساب نموذج التعلم العميق |
| إرجاع | RK1820 → RK3588 | إرسال نتائج الاستدلال مرة أخرى؛ يعرض المضيف أو يواصل المنطق |
ببساطة: يقوم RK3588 بتشغيل العرض ويحافظ على كل شيء على المسار الصحيح، بينما يوفر RK1820 دفعات حوسبة أولية؛ معًا يجعلون أجهزة الذكاء الاصطناعي الطرفية "أكثر ذكاءً وأسرع وخالية من المتاعب".
تابعنا للحصول على المزيد من أخبار RK1820 وتحديثات SDK، والبرامج التعليمية الجديدة والعروض التوضيحية الجاهزة للتشغيل.
