تدور معظم المحادثات حول السرعة في مراكز بيانات الذكاء الاصطناعي حول المسرعات نفسها، حيث تناقش الرموز المميزة في الثانية وما شابه. ومع ذلك، فإن المعركة من أجل أداء الذكاء الاصطناعي تدور على جبهات متعددة، إحداها تتعلق بسعة الذاكرة وكفاءة الطاقة. كشفت شركة Micron اليوم عما يبدو أنه أول وحدات SOCAMM2 سعة 256 جيجابايت في الصناعة، وهي خطوة كبيرة مقارنة بأحدث وحدات 192 جيجابايت التي تم إصدارها قبل ستة أشهر فقط.
تعمق أكثر مع TH Premium: الذاكرة
تعد الكثافة المحسنة بنسبة 33% مقارنة بالجيل السابق من SOCAMM2 بمثابة أخبار ممتازة في حد ذاتها، ولكن هذه ليست الميزة الوحيدة لعامل الشكل هذا. من المفترض أن توفر الوحدات الجديدة كفاءة أفضل في استخدام الطاقة بنسبة 66% مقارنةً بوحدات RDIMM القياسية، كما أنها متوافقة مع التبريد السائل الشائع (والضروري) بشكل متزايد لخوادم الذكاء الاصطناعي.
وفقًا لـ Micron، فإن البطاقات الجديدة هي الأولى التي تستخدم قوالب LPDDR5X المتجانسة بسعة 32 جيجا بايت (4 جيجا بايت)، حيث تعني كلمة “متجانسة” أن كل الذاكرة والدوائر ذات الصلة هي جزء من قالب واحد.
نظرًا للسوق المستهدف لهذه SOCAMM2s الكبيرة، تروج الشركة لتحسينات الأداء في العالم الحقيقي بما يتجاوز مجرد الكثافة وكفاءة الطاقة. يتيح توفر هذا القدر الكبير من ذاكرة الوصول العشوائي لمعالج واحد لنماذج الذكاء الاصطناعي استخدام نوافذ سياق أكبر بكثير. وبالتالي، فهو يساعد على تقليل TTFT (الوقت اللازم لأول رمز مميز)، مما يعني أن الروبوتات تبدأ في الإجابة على أسئلتك بشكل أسرع.
في مستقبل الذكاء الاصطناعي حيث يكون السياق هو كل شيء حرفيًا، فإن كل جيجابايت من الذاكرة الأقرب إلى وحدات xPU في النظام مهمة، ولا شك في أن تقدم Micron اليوم سيتم العثور عليه في تركيبات خوادم الذكاء الاصطناعي الضخمة في جميع أنحاء العالم حيث تخصص الشركات مئات المليارات من الدولارات من النفقات الرأسمالية في السباق نحو تفوق الذكاء الاصطناعي.
عامل الشكل SOCAMM2 هو نتيجة شراكة بين Nvidia وصانعي الذاكرة Micron وSamsung وSK hynix. تم تصميم معيار SOCAMM في الأصل بواسطة Nvidia، ولكن ورد أن عملاق التسريع واجه مشكلة في تشغيل الوحدات دون ارتفاع درجة الحرارة على الخوادم عالية الكثافة. تعاون الرئيس التنفيذي جنسن هوانغ بحكمة مع الأشخاص الذين يصنعون ذاكرة الكمبيوتر لكسب لقمة العيش، مما أدى إلى زيادة كثافة SOCAMM2 واستهلاك أقل للطاقة.
يتبع أجهزة توم على أخبار جوجل، أو أضفنا كمصدر مفضل، للحصول على آخر الأخبار والتحليلات والمراجعات في خلاصاتك.
التعليقات