ప్రొవైడర్ డివైస్‌కు మోడల్‌ను జోడించండి

అర్హత కలిగిన మోడల్‌ను ఎంచుకోండి#

మీ Provider వర్క్‌ఫ్లో లేదా అప్లికేషన్ నుండి మోడల్ క్యాటలాగ్‌ను తెరవండి. ఉద్దేశించిన మోడల్‌ను శోధించి, ఖచ్చితమైన గుర్తింపు, హార్డ్‌వేర్ అవసరాలు, సర్వింగ్ అనుమతులు మరియు అందుబాటులో ఉన్న వాణిజ్య నిబంధనలను చదవండి. గుర్తించదగిన మోడల్ పేరు దాని ఖచ్చితమైన ట్యాగ్ లేదా వేరియంట్‌ను గుర్తించడానికి సరిపోదు.

పరికరం సామర్థ్యాన్ని తనిఖీ చేయండి#

GPU మెమరీ అవసరాలు వెయిట్స్, ప్రిసిషన్ లేదా క్వాంటైజేషన్, కాంటెక్స్ట్ లెంగ్త్, రన్‌టైమ్ ఓవర్హెడ్ మరియు కంకరెన్సీపై ఆధారపడి ఉంటాయి. ప్రస్తుత మోడల్ అవసరాలు మరియు గమనించిన డివైస్ వనరులను ఉపయోగించండి. పారామీటర్ కౌంట్ నుండి మాత్రమే హామీ కలిగిన అనుకూలతను ఊహించవద్దు.

ఇన్‌స్టాల్ చేసి ప్రారంభించండి#

1. ఖచ్చితమైన మోడల్‌ను ఎంచుకుని, ఏవైనా యాక్సెస్ లేదా ధర నిబంధనలను సమీక్షించండి.
2. మోడల్ డౌన్‌లోడ్ లేదా కనెక్షన్ ఫ్లో ప్రారంభించండి.
3. ఇన్‌స్టాలేషన్ లేదా సమకాలీకరణ పూర్తయ్యే వరకు వేచి ఉండండి మరియు షేరింగ్ ప్రారంభించే ముందు లోపాలను పరిష్కరించండి.
4. ఉద్దేశించిన డివైస్‌లో మోడల్‌ను షేరింగ్ కోసం ప్రారంభించండి.
5. Consoleలో మోడల్ మరియు డివైస్ స్థితిని ధృవీకరించండి, తరువాత నిజమైన కార్యకలాపాన్ని పర్యవేక్షించండి.

మోడల్ కనిపించనప్పుడు#

ఎంపిక చేసిన వర్క్‌స్పేస్, ప్రొవైడర్ ఆమోదం, క్యాటలాగ్ అనుమతులు, మోడల్ అందుబాటు మరియు ఇన్‌స్టాలేషన్ పూర్తయిందో లేదో తనిఖీ చేయండి. ఆటోమేటెడ్ క్యాటలాగ్ తనిఖీల కోసం, ఉపయోగించండి ప్రొవైడర్ మోడల్ ఎండ్‌పాయింట్‌లు.

మోడల్ లోడ్ చేయలేనప్పుడు#

రన్‌టైమ్ లోపాన్ని చదవండి, అవసరమైన మరియు అందుబాటులో ఉన్న వనరులను సరిపోల్చండి మరియు GPUని ఇతర వర్క్‌లోడ్‌లు వినియోగిస్తున్నాయా అని తనిఖీ చేయండి. లోడ్ సమస్యలను పరిష్కరించండి, సామర్థ్యాన్ని ప్రకటన చేయడానికి ముందు. క్యాటలాగ్ టెక్స్ట్ మార్చడం డివైస్ రన్‌టైమ్ వైఫల్యాన్ని పరిష్కరించదు.