افزودن یک مدل به دستگاه ارائه‌دهنده

انتخاب یک مدل واجد شرایط#

کاتالوگ مدل را از جریان کاری Provider یا برنامه خود باز کنید. مدل مورد نظر را جستجو کنید و شناسه دقیق، الزامات سخت‌افزاری، مجوزهای سرویس‌دهی و شرایط تجاری موجود را بخوانید. یک نام قابل تشخیص مدل برای شناسایی دقیق برچسب یا نوع آن کافی نیست.

بررسی ظرفیت دستگاه#

نیازهای حافظه GPU به وزن‌ها، دقت یا کوانتیزاسیون، طول زمینه، سربار زمان اجرا و هم‌زمانی بستگی دارد. از الزامات فعلی مدل و منابع مشاهده‌شده دستگاه استفاده کنید. سازگاری تضمین‌شده را فقط از تعداد پارامترها نتیجه‌گیری نکنید.

نصب و فعال‌سازی#

1. مدل دقیق را انتخاب کنید و هرگونه شرایط دسترسی یا قیمت‌گذاری را بررسی کنید.
2. دانلود مدل پشتیبانی‌شده یا جریان اتصال را شروع کنید.
3. منتظر بمانید تا نصب یا همگام‌سازی به پایان برسد و خطاها را قبل از فعال‌سازی اشتراک‌گذاری رفع کنید.
4. مدل را برای اشتراک‌گذاری روی دستگاه مورد نظر فعال کنید.
5. وضعیت مدل و دستگاه را در Console تأیید کنید، سپس فعالیت واقعی را نظارت کنید.

زمانی که یک مدل ظاهر نمی‌شود#

فضای کاری انتخاب‌شده، تأیید Provider، مجوزهای کاتالوگ، دسترسی مدل و اینکه آیا نصب به پایان رسیده است را بررسی کنید. برای بررسی‌های خودکار کاتالوگ، از نقاط پایانی مدل Provider.

زمانی که یک مدل نمی‌تواند بارگذاری شود#

خطای زمان اجرا را بخوانید، منابع مورد نیاز و موجود را مقایسه کنید و بررسی کنید که آیا بارهای کاری دیگر GPU را مصرف می‌کنند. مشکلات بارگذاری را قبل از تبلیغ ظرفیت رفع کنید. تغییر متن کاتالوگ مشکل زمان اجرای دستگاه را حل نمی‌کند.