المستوى: متقدم. زمن القراءة: نحو 6 دقائق.
نشر إطار الاستدلال الموزع NVIDIA Dynamo على Kubernetes ليس سوى الخطوة الأولى؛ فالنموذج يحتاج إلى برامج تشغيل المعالجات، وتخصيص الموارد، والجدولة، والشبكات، والمراقبة. تقدم NVIDIA عبر AI Cluster Runtime (AICR) وصفات معتمدة بإصدارات مثبتة وفحوص تحقق تجعل الإعداد قابلًا للتكرار.
اختر مسار التوجيه
تقول المدونة إن Dynamo 1.4.2 يستخدم TCP لمستوى الطلبات وZMQ لأحداث ذاكرة KV، ما يمكّن التوجيه الواعي بالذاكرة المؤقتة عبر طريقين: موجّه Dynamo الأمامي، المناسب لنقاط نهاية خاصة بنموذج بأصغر طوبولوجيا خدمة، أو مسار GAIE/EPP المتكامل مع مدخل Kubernetes المشترك عبر Gateway API.
الخطوة 1: لقطة للعنقود
aicr snapshot --namespace aicr-validation --output snapshot.yamlالخطوة 2: ولّد الوصفة
aicr recipe --snapshot snapshot.yaml --intent inference \
--platform dynamo --output recipe.yamlتسجّل الوصفة إصدارات المكونات المثبتة وقيود التوافق وفحوص التحقق.
الخطوة 3: اصنع حزمة التشغيل
aicr bundle --recipe recipe.yaml --deployer helmfile --output bundleأضف أعلام المحددات والتحمّلات الخاصة بعقدك (مثل nodeGroup=gpu-worker). وإن لم يكن للعنقود StorageClass افتراضي فأضف –storage-class.
الخطوة 4: انشر
helmfile -f bundle/helmfile.yaml diff
helmfile -f bundle/helmfile.yaml applyللإنتاج تصنع AICR حزم GitOps أيضًا عبر argocd وflux.
الخطوة 5: تحقّق قبل نشر تطبيقك
aicr validate --recipe recipe.yaml --phase deployment \
--phase conformance --output report.jsonلا تثبّت DynamoGraphDeployment الخاص بتطبيقك إلا بعد نجاح الفحوص. أما فحص الأداء فيعمل منفصلًا لأنه ينشر حملًا مؤقتًا ويستهلك المعالجات المختبَرة.
جرّب بنفسك
ابدأ بخطوة اللقطة على عنقود تجريبي، واقرأ الوصفة الناتجة قبل أن تنشر أي شيء.
المصادر: NVIDIA Technical Blog — 2026-10-30
