إضافة نموذج إلى جهاز مقدم الخدمة

اختر نموذجًا مؤهلًا#

افتح كتالوج النماذج من سير عمل Provider الخاص بك أو التطبيق. ابحث عن النموذج المطلوب واقرأ المعرف الدقيق، متطلبات الأجهزة، أذونات التقديم والشروط التجارية المتاحة. اسم النموذج المعروف ليس كافيًا لتحديد العلامة أو النسخة الدقيقة.

تحقق من قدرة الجهاز#

تعتمد احتياجات ذاكرة GPU على الأوزان، الدقة أو التكميم، طول السياق، الحمل الزائد أثناء التشغيل والتزامن. استخدم متطلبات النموذج الحالية والموارد الملاحظة للجهاز. لا تستنتج التوافق المضمون بناءً على عدد المعلمات فقط.

قم بالتثبيت والتمكين#

1. اختر النموذج الدقيق وراجع أي شروط وصول أو تسعير.
2. ابدأ تنزيل النموذج المدعوم أو تدفق الاتصال.
3. انتظر حتى تنتهي عملية التثبيت أو المزامنة وقم بحل الأخطاء قبل تمكين المشاركة.
4. قم بتمكين النموذج للمشاركة على الجهاز المقصود.
5. قم بتأكيد حالة النموذج والجهاز في Console، ثم راقب النشاط الفعلي.

عندما لا يظهر النموذج#

تحقق من مساحة العمل المحددة، موافقة المزود، أذونات الكتالوج، توفر النموذج وما إذا كانت عملية التثبيت قد انتهت. لاستخدام الفحوصات التلقائية للكتالوج، استخدم نقاط نهاية نموذج المزود.

عندما لا يمكن تحميل النموذج#

اقرأ خطأ وقت التشغيل، وقارن بين الموارد المطلوبة والمتاحة وتحقق مما إذا كانت الأحمال الأخرى تستهلك وحدة معالجة الرسومات (GPU). قم بحل مشاكل التحميل قبل الإعلان عن السعة. تغيير نص الكتالوج لا يحل فشل وقت تشغيل الجهاز.