- تقدم Micron وحدة LPDDR5x كثيفة بسعة 256 جيجابايت تستهدف بشكل مباشر خوادم الذكاء الاصطناعي
- يمكن لثماني وحدات SOCAMM2 رفع سعة ذاكرة الخادم إلى 2 تيرابايت هائلة
- تعمل أعباء عمل استدلال الذكاء الاصطناعي على تحويل اختناقات الأداء بشكل متزايد نحو سعة ذاكرة النظام
تتطلب نماذج اللغات الكبيرة (LLMs) وخطوط الاستدلال الحديثة بشكل متزايد مجموعات ذاكرة هائلة، مما يجبر بائعي الأجهزة على إعادة التفكير في بنية ذاكرة الخادم.
قدمت ميكرون الآن وحدة ذاكرة SOCAMM2 سعة 256 جيجابايت مخصصة لأنظمة مراكز البيانات حيث تؤثر السعة وعرض النطاق الترددي وكفاءة الطاقة على الأداء العام.
تعتمد الوحدة على 64 شريحة LPDDR5x متجانسة بسعة 32 جيجابايت، مما يشكل حزمة LPDRAM كثيفة تعالج بصمة الذاكرة المتزايدة التي تتطلبها أعباء عمل الذكاء الاصطناعي المعاصرة.
يستمر المقال أدناه
توسيع سعة الذاكرة لمنصات خادم الذكاء الاصطناعي
تعمل الوحدة أيضًا على زيادة الحد الأقصى للذاكرة المتاحة لكل تكوين للمعالج. عندما يتم تثبيت ثمانية من وحدات SOCAMM2 هذه في وحدة المعالجة المركزية للخادم ذات ثماني قنوات، يمكن أن تصل السعة الإجمالية إلى 2 تيرابايت من LPDRAM.
ويتجاوز هذا الرقم الجيل السابق للوحدة البالغة 192 جيجابايت بمقدار الثلث تقريبًا، مما يسمح للأنظمة باستيعاب نوافذ سياق أكبر ومهام استدلالية أكثر تطلبًا.
يصف ميكرون تصميم SOCAMM2 بأنه أكثر كفاءة من وحدات ذاكرة الخادم التقليدية.
قال راج ناراسيمهان، نائب الرئيس الأول والمدير العام لوحدة أعمال الذاكرة السحابية في ميكرون: “يتيح عرض SOCAMM2 سعة 256 جيجابايت من ميكرون حل الذاكرة المتصلة بوحدة المعالجة المركزية الأكثر كفاءة في استخدام الطاقة لكل من الذكاء الاصطناعي والحوسبة عالية الأداء”.
“لقد ساهمت ريادتنا المستمرة في حلول الذاكرة منخفضة الطاقة لتطبيقات مراكز البيانات في وضعنا بشكل فريد لنكون أول من يقدم قالب LPDRAM متجانس بسعة 32 جيجا بايت، مما يساعد في دفع الصناعة إلى تبني بنيات أنظمة أكثر كفاءة في استخدام الطاقة وعالية السعة.”
وتقول الشركة إن وحدة LPDRAM الجديدة تستهلك ما يقرب من ثلث قوة وحدات RDIMM المماثلة بينما تشغل ثلث البصمة المادية فقط.
يسمح انخفاض الطلب على الطاقة وحجم الوحدة الأصغر بكثافة حامل أعلى داخل عمليات نشر مراكز البيانات الكبيرة، بينما يقلل انخفاض طاقة الذاكرة من الحمل الحراري وتكاليف البنية التحتية.
تتبع بنية SOCAMM2 أيضًا تصميمًا معياريًا يهدف إلى تبسيط الصيانة والتوسع المستقبلي.
يدعم التنسيق أنظمة الخادم المبردة بالسوائل ويمكنه استيعاب سعة إضافية مع نمو متطلبات الذاكرة جنبًا إلى جنب مع تعقيد النموذج وحجم مجموعة البيانات.
ينص ميكرون على أن وحدة SOCAMM2 سعة 256 جيجابايت يمكن أن تؤثر على عمليات استدلال معينة ضمن بنيات الذاكرة الموحدة.
أبلغت الشركة عن تحسن أكثر من 2.3 مرة في وقت ظهور الرمز المميز الأول أثناء الاستدلال على السياق الطويل عند استخدام الوحدة لتفريغ ذاكرة التخزين المؤقت للقيمة الرئيسية.
في أحمال عمل وحدة المعالجة المركزية المستقلة، يُقال إن تكوين LPDRAM يوفر أداءً أفضل بمقدار 3 مرات لكل واط مقارنةً بوحدات ذاكرة الخادم السائدة.
تشمل محفظة LPDRAM الخاصة بالشركة مكونات تتراوح من 8 جيجابايت إلى 64 جيجابايت ووحدات SOCAMM2 تتراوح من 48 جيجابايت إلى 256 جيجابايت، ويتم بالفعل شحن عينات العملاء من وحدة SOCAMM2 بسعة 256 جيجابايت.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات