إنفيديا تطلق منصة Dynamo لتعزيز قدرات النماذج الذكية في التفكير
أعلنت شركة إنفيديا (NVIDIA) عن إطلاق منصتها الجديدة NVIDIA Dynamo، التي تأتي كبديل لمنصة Triton Inference Server، بهدف تحسين خدمات الاستدلال في نماذج الذكاء الاصطناعي وزيادة كفاءة النماذج المفكرة.
توفر منصة Dynamo مزايا كبيرة لمصانع الذكاء الاصطناعي من خلال تحسين توزيع عمليات الاستدلال عبر آلاف بطاقات معالجة الرسوميات، مما يعزز الأداء ويخفض التكاليف. تعتمد بمنصة على مفهوم “الخدمة المفككة”، حيث يتم فصل مراحل المعالجة والفهم عن توليد الاستجابات، مما يتيح تحسين كل مرحلة بشكل مستقل ويزيد كفاءة استخدام الموارد.
يقول جين-سون هوانج، الرئيس التنفيذي لإنفيديا: “تحتاج الشركات إلى نماذج ذكاء اصطناعي أكثر تطورًا تعتمد على التفكير والاستنتاج. تساعد Dynamo في نشر هذه النماذج بشكل واسع وبتكلفة أقل”.
تسهم المنصة في تحقيق أداء مضاعف واستفادة أفضل من بطاقات الرسوميات، حيث يمكن تشغيل نماذج قائمة على معمارية Llama مفتوحة المصدر بكفاءة أكبر. من المتوقع أن يزيد استخدام نموذج DeepSeek-R1 من إنتاجية الرموز النصية إلى 30 ضعف لكل بطاقة معالجة.
تعتمد Dynamo على تقنيات مبتكرة مثل محرك تخطيط ديناميكي، ونظام توجيه ذكي يستخدم الذكاء الاصطناعي لتقليل العمليات المتكررة. كما توفر مكتبة اتصال ذات استجابة منخفضة ومدير ذاكرة لضمان كفاءة استخدام الموارد.
تتوفر منصة NVIDIA Dynamo كمشروع مفتوح المصدر، مما يسهل على المطورين والشركات الناشئة استخدامها وتخصيصها. وتدعم المنصة العديد من منصات التطوير، مما يعزز من توسيع نطاق استخدامها في مختلف بيئات الحوسبة السحابية.
عدد المصادر التي تم تحليلها: 5
المصدر الرئيسي : محمد عادل
post-id: e8012598-d293-4090-8669-993e786b8407
