أثبت DGX Spark من Nvidia أنه محرك ذكاء اصطناعي محلي مدمج ومتعدد الاستخدامات بفضل ذاكرة الوصول العشوائي (RAM) التي تبلغ سعتها 128 جيجابايت، ووحدة المعالجة المركزية Arm CPU السريعة ذات 20 نواة، ووحدة معالجة الرسومات Blackwell القادرة. لقد وجدنا أنه مفيد بنفس القدر لاستدلال LLM وسير عمل الصور والفيديو التوليدي في مراجعتنا.
لكن إحدى المفاجآت أطلت برأسها أثناء الاختبار. على الرغم من تقنية التصنيع من فئة 3 نانومتر، ومجمع Arm CPU، وخبرة Nvidia الطويلة في إدارة الطاقة المتنقلة، فإن DGX Spark وGB10 SoC الخاص بها حققا 37 واطًا أو نحو ذلك في وضع الخمول. هذه ليست نهاية العالم بالنسبة لنظام فعال، ولكن لدينا الآن بعض الأفكار حول سبب ارتفاع هذا الرقم في البداية، وحل سهل.
في آخر تحديث لبرنامج النظام، قامت Nvidia بتمكين اكتشاف التوصيل السريع لبطاقة Spark's ConnectX 7 NIC بسرعة 200 جيجابت في الثانية، وهي واجهة شبكية غريبة يبدو أن وحدة التحكم الخاصة بها تستمد الكثير من الطاقة في وضع الخمول حتى الآن. تقول Nvidia أن التحديث الجديد يمكن أن يقلل من استهلاك طاقة النظام بما يصل إلى 18 واط عندما لا تكون واجهة ConnectX 7 نشطة.
نود أن نختبر مثل هذه الادعاءات الصعبة، لذلك قمنا بإخراج مقياس الطاقة USB-C الخاص بنا وقمنا بقياس الطاقة الخاملة على Founders Edition Spark قبل وبعد تطبيق التحديث الأخير.
قبل التحديث، كان إصدار DGX Spark Founders Edition في وضع الخمول عند نفس 37 واط أو نحو ذلك الذي لاحظناه في مراجعتنا الأولية. بعد التحديث، استهلك النظام 25 وات فقط في وضع الخمول مع تشغيل الشاشة المتصلة، وهو ما يمثل انخفاضًا بنسبة 32.4%. مع فصل الشاشة، كما قد يحدث إذا كان جهاز Spark يعمل كخادم مقطوع الرأس، انخفضت الطاقة الخاملة بشكل أكبر إلى 22 وات فقط.
ومع ذلك، قد لا يستفيد كل صندوق GB10 بشكل متساوٍ من هذا التحديث. لقد جربنا أيضًا إصدار البرنامج الجديد على نظام Dell Pro Max GB10 الخاص بنا، وظلت طاقة الخمول دون تغيير، عند 35-37 واط. ما زلنا نتعامل مع Pro Max وسنرى ما إذا كان بإمكاننا الحصول على تخفيضات مماثلة في الطاقة الخاملة على هذا النظام.
تغتنم Nvidia أيضًا هذه اللحظة لتسليط الضوء على بعض الطرق التي يتم بها استخدام Spark في المؤسسات التعليمية حول العالم كمسرع محلي للذكاء الاصطناعي لمجموعة من المشاريع المثيرة للاهتمام.
احصل على أفضل أخبار Tom's Hardware والمراجعات المتعمقة، مباشرة إلى صندوق الوارد الخاص بك.
وفقًا لأحدث منشور للشركة، تعمل DGX Sparks الآن على تشغيل نماذج الذكاء الاصطناعي في مرصد IceCube Neutrino في القطب الجنوبي، وقراءة تقارير الأشعة في جامعة نيويورك، والمساعدة في دراسة وراثة الصرع في جامعة هارفارد، من بين تطبيقات أخرى.
يقول بينيديكت ريدل، مدير الحوسبة في مركز ويسكونسن آيس كيوب للفيزياء الفلكية للجسيمات، إن متطلبات الطاقة المنخفضة لـ Spark مثالية للنشر في الظروف القاسية والنائية في القطب الجنوبي للتحليل المحلي لبيانات مراقبة النيوترينو.
من المؤكد أن النطاق الترددي للشبكة والطاقة المتاحة هما في أعلى مستوياتهما في القطب الجنوبي، لذا فإن القدرة على تشغيل نماذج الذكاء الاصطناعي محليًا بأداء عالٍ نسبيًا ضمن 140 واط فقط أو نحو ذلك من الطاقة تبدو لا تقدر بثمن. سيكون المختبر بلا شك سعيدًا بتوفير عدد قليل من الواط من الطاقة الخاملة من سباركس مع آخر تحديث.
إذا كنت تقوم بتشغيل Spark بنفسك، فتأكد من استدعاء DGX Dashboard والتوجه إلى علامة التبويب “الإعدادات” لتثبيت أحدث البرامج بنفسك.
يتبع أجهزة توم على أخبار جوجل، أو أضفنا كمصدر مفضل، للحصول على آخر الأخبار والتحليلات والمراجعات في خلاصاتك.
التعليقات