प्रोव्हायडर डिव्हाइसवर मॉडेल जोडा

पात्र मॉडेल निवडा#

तुमच्या Provider वर्कफ्लो किंवा ॲप्लिकेशनमधून मॉडेल कॅटलॉग उघडा. इच्छित मॉडेल शोधा आणि त्याचा अचूक आयडेंटिफायर, हार्डवेअर आवश्यकता, सर्व्हिंग परवानग्या आणि उपलब्ध व्यावसायिक अटी वाचा. ओळखण्याजोगे मॉडेल नाव त्याचा अचूक टॅग किंवा व्हेरिएंट ओळखण्यासाठी पुरेसे नाही.

डिव्हाइस क्षमता तपासा#

GPU मेमरीची आवश्यकता वजन, प्रिसिजन किंवा क्वांटायझेशन, संदर्भ लांबी, रनटाइम ओव्हरहेड आणि कंकरन्सीवर अवलंबून असते. सध्याच्या मॉडेलच्या आवश्यकता आणि निरीक्षित डिव्हाइस संसाधने वापरा. फक्त पॅरामीटर काउंटवरून हमी दिलेली सुसंगतता अनुमान करू नका.

स्थापित करा आणि सक्षम करा#

1. अचूक मॉडेल निवडा आणि कोणत्याही प्रवेश किंवा किंमतीच्या अटींचा आढावा घ्या.
2. समर्थित मॉडेल डाउनलोड किंवा कनेक्शन प्रवाह सुरू करा.
3. शेअरिंग सक्षम करण्यापूर्वी स्थापना किंवा समक्रमण पूर्ण होण्याची वाट पाहा आणि त्रुटी सोडवा.
4. इच्छित डिव्हाइसवर शेअरिंगसाठी मॉडेल सक्षम करा.
5. कन्सोलमध्ये मॉडेल आणि डिव्हाइसची स्थिती पुष्टी करा, नंतर वास्तविक क्रियाकलापाचे निरीक्षण करा.

जेव्हा मॉडेल दिसत नाही#

निवडलेले कार्यक्षेत्र, प्रदाता मंजुरी, कॅटलॉग परवानग्या, मॉडेल उपलब्धता आणि स्थापना पूर्ण झाली आहे का ते तपासा. स्वयंचलित कॅटलॉग तपासणीसाठी वापरा प्रदाता मॉडेल एंडपॉइंट्स.

जेव्हा मॉडेल लोड होऊ शकत नाही#

रनटाइम त्रुटी वाचा, आवश्यक आणि उपलब्ध संसाधनांची तुलना करा आणि इतर वर्कलोड GPU वापरत आहेत का ते तपासा. क्षमता जाहिरात करण्यापूर्वी लोडिंग समस्या सोडवा. कॅटलॉग मजकूर बदलल्याने डिव्हाइस रनटाइम अपयश निश्चित होत नाही.