- يعمل النطاق الترددي Thunderbolt 5 على دفع أجهزة GPU الخارجية إلى مكان أقرب إلى منطقة محطة العمل
- يكتسب استدلال الذكاء الاصطناعي المحلي الاهتمام مع استمرار ارتفاع تكاليف السحابة
- يستكشف المطورون بشكل متزايد تشغيل نماذج اللغة مباشرة على الأجهزة الشخصية
توجد حاويات GPU الخارجية لبعض الوقت – وترتبط عادةً بأجهزة الكمبيوتر المحمولة المخصصة للألعاب ومهام تسريع الرسومات التي تتجاوز قدرات معالجات الأجهزة المحمولة.
ينتمي TBT5-AI الذي تم إصداره حديثًا من Plugable إلى هذه الفئة، ولكنه يقدم تصميمًا يركز على توصيل أجهزة رسومات سطح المكتب بأجهزة الكمبيوتر المحمولة لأحمال عمل الذكاء الاصطناعي المحلية.
توفر العلبة فتحة PCIe x16 كاملة الطول تتيح للمستخدمين تثبيت بطاقة رسومات من فئة سطح المكتب داخل الهيكل الخارجي.
يستمر المقال أدناه
أجهزة من فئة سطح المكتب في حاوية خارجية
يوفر مصدر الطاقة المدمج بقدرة 850 واط الطاقة اللازمة لتشغيل وحدات معالجة الرسومات عالية الأداء والتي تعمل عادةً داخل محطات العمل المكتبية فقط.
للاتصال، يأتي هذا الجهاز مزودًا بكابل Thunderbolt 5 واحد، والذي يسمح بالاتصال المباشر بجهاز كمبيوتر محمول، ويدعم ما يصل إلى 80 جيجابت في الثانية من عرض النطاق الترددي ثنائي الاتجاه، بينما يمكن أن يزيد وضع التعزيز من الإنتاجية إلى 120 جيجابت في الثانية لأحمال عمل معينة.
داخل العلبة، يربط عرض النطاق الترددي وحدة معالجة الرسومات المثبتة من خلال ممرات PCIe 4.0 x4، مما يقلل من اختناقات النقل التي حدت من تصميمات وحدة معالجة الرسومات الخارجية السابقة.
بالإضافة إلى احتواء بطاقة الرسومات، يعمل النظام كمركز يعمل على توسيع الاتصال للكمبيوتر المحمول المتصل.
يوفر ما يصل إلى 96 واط من طاقة الشحن مع توفير شبكة إيثرنت بسرعة 2.5 جيجابت والعديد من منافذ USB عالية السرعة.
وفقًا لـ Plugable، يرغب العديد من المهندسين بشكل متزايد في الحفاظ على معالجة النماذج ومعالجة البيانات داخل أنظمتهم الخاصة، ويقدم TBT5-AI ذلك تمامًا، لأنه مصمم للمطورين الذين يقومون بتجربة بيئات استدلال الذكاء الاصطناعي المحلية.
يسمح الجهاز للمطورين بتشغيل نماذج لغة كبيرة مباشرة على الأجهزة المحلية بدلاً من إرسال أعباء العمل إلى البنية التحتية السحابية.
وهو يدعم أطر عمل الذكاء الاصطناعي المحلية الشائعة، بما في ذلك llama.cpp ونماذج Hugging Face ومنصة الاستدلال NIM من Nvidia.
وقال بيرني طومسون، كبير مسؤولي التكنولوجيا في شركة Plugable، إن الأجهزة تستهدف الصناعات التي تظل فيها حماية المعلومات الحساسة متطلبًا تشغيليًا صارمًا.
وقال طومسون: “خصوصية البيانات ليست ميزة ولكنها تفويض”، في إشارة إلى قطاعات مثل الرعاية الصحية والخدمات المالية والمنظمات القانونية.
تقوم Plugable أيضًا بإعداد إصدارات المؤسسات التي يطلق عليها اسم TBT5-AI16 وTBT5-AI32 وTBT5-AI96 والتي ستتضمن معالجات رسومات مجمعة.
ستدمج هذه التكوينات بيئة برمجية تسمى Plugable Chat، والتي توصف بأنها منصة تنسيق AI معزولة عن الهواء للمؤسسات الخاضعة للتنظيم.
تدعي الشركة أن هذه الأنظمة ستحول معالجة الذكاء الاصطناعي بعيدًا عن الخدمات السحابية القائمة على الاشتراك نحو البنية التحتية للحوسبة التي يتم التحكم فيها محليًا.
بسعر 599.95 دولارًا أمريكيًا كوحدة مستقلة، تم إصدار حاوية Plugable TBT5-AI رسميًا قبل بضعة أيام، وهي متاحة الآن عبر Amazon وPlugable.com.
عبر ماكسورس
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات