మీ మౌలిక సదుపాయాలు
మీరు నిర్వహించే కంప్యూట్‌ను ప్రొవైడర్ సెటప్‌కు తీసుకురండి.
GPU యజమానులు & ఇన్‌ఫరెన్స్ ప్రొవైడర్ల కోసం
మీరు సామర్థ్యాన్ని తీసుకురండి.దీన్ని AI డిమాండ్‌కు కనెక్ట్ చేయండి.
ShareAI నెట్‌వర్క్‌కు అర్హమైన కంప్యూట్‌ను అందుబాటులో ఉంచండి. రూట్ చేయబడిన ఇన్‌ఫరెన్స్‌ను సర్వ్ చేయండి మరియు మీ కంట్రిబ్యూషన్ ద్వారా జనరేట్ చేయబడిన ప్రొవైడర్ రివార్డ్స్‌ను ట్రాక్ చేయండి.
మీ మౌలిక సదుపాయాలు. నెట్‌వర్క్‌లో మీ పాత్ర.
అర్హమైన సామర్థ్యం
మద్దతు ఉన్న మోడల్స్
ప్రొవైడర్ విధానాలు
షేర్AIరూట్ · మీటర్ · బిల్
మీ సహకారంప్రొవైడర్ రివార్డ్స్
01
కనెక్ట్అర్హమైన మౌలిక సదుపాయాలను తీసుకురండి
02
కాన్ఫిగర్మద్దతు ఉన్న ఆఫరింగ్స్‌ను ఎంచుకోండి
03
సర్వ్ చేయండిరూట్ చేయబడిన ఇన్‌ఫరెన్స్‌కు సహకరించండి
04
ట్రాక్మీ ప్రొవైడర్ రివార్డ్స్‌ను సమీక్షించండి
పరిష్కరించదగిన భాగం
సామర్థ్యానికి డిమాండ్‌కు రూట్ అవసరం.
ఇన్‌ఫ్రాస్ట్రక్చర్‌ను కలిగి ఉండటం పని యొక్క ఒక భాగం మాత్రమే. దాన్ని అందుబాటులో ఉంచడం, అభ్యర్థనలను సర్వ్ చేయడం మరియు దాని కంట్రిబ్యూషన్‌ను అర్థం చేసుకోవడం కూడా ముఖ్యం.
స్పష్టమైన మోడల్
మీ ఇన్‌ఫ్రాస్ట్రక్చర్‌ను నెట్‌వర్క్‌లోకి తీసుకురండి.
ప్రొవైడర్ అవసరాలను అన్వేషించండి, మద్దతు ఉన్న సామర్థ్యాన్ని కనెక్ట్ చేయండి మరియు Console ద్వారా మీ పాల్గొనడం నిర్వహించండి.
ఇది ఎక్కడ సరిపోతుంది
కనెక్ట్ చేసే సహకారం.
రూట్ చేసిన ఇన్‌ఫరెన్స్
ShareAI నెట్‌వర్క్ ద్వారా అర్హమైన వర్క్‌లోడ్స్‌ను సర్వ్ చేయండి.
కనిపించే కంట్రిబ్యూషన్
మీ ప్రొవైడర్ వర్క్‌స్పేస్‌లో వినియోగం మరియు రివార్డ్స్‌ను ట్రాక్ చేయండి.
మీ GPUని పని చేయించండి
మీ సామర్థ్యం ఎలా కనిపించగలదు?
మీ GPUని ఎంచుకోండి, మీ రేట్లను సెట్ చేయండి మరియు పూర్తిగా బుక్ చేసిన షెడ్యూల్ విలువ ఎంత ఉంటుందో తెలుసుకోండి.
RTX 3080 ఆధారిత అంచనాGPUకు సెకనుకు సుమారు 140 అవుట్‌పుట్ టోకెన్లు.
24 వరకు
మోడల్, వేగం & పని లోడ్
రిఫరెన్స్ మోడల్Llama 2 7B · Q4_0
చిన్న అభ్యర్థనలు: 512 ఇన్‌పుట్ టోకెన్లు మరియు 128 అవుట్‌పుట్ టోకెన్లు. ప్రతి GPU ఒక అభ్యర్థనను ఒకేసారి నిర్వహిస్తుంది.
మీ స్వంత బెంచ్‌మార్క్ ఉందా? రెండు వేగాలను మార్చండి. మరో GPUని ఎంచుకోవడం దాని రిఫరెన్స్ విలువలను పునరుద్ధరిస్తుంది.
100% అంటే అభ్యర్థనలు మీ ఎంపిక చేసిన గంటలలో నిరంతరం వస్తాయి. ఖాళీ సమయాన్ని పరిగణనలోకి తీసుకోవడానికి దాన్ని తగ్గించండి.
ప్రచురించిన వేగాలు కమ్యూనిటీ llama.cpp పరీక్షల నుండి Flash Attention ఆఫ్‌తో వస్తాయి. RTX 3080 Ti ప్రీసెట్ RTX 3080 రిఫరెన్స్‌ను ఉపయోగిస్తుంది; ఇది అంచనా మాత్రమే, కొలిచిన 3080 Ti ఫలితం కాదు.
ఇన్‌పుట్ ప్రాసెసింగ్ మరియు అవుట్‌పుట్ జనరేషన్ ఒకే సమయ బడ్జెట్‌ను పంచుకుంటాయి. నిజమైన త్రుప్తి కూడా సందర్భం, సాఫ్ట్‌వేర్ మరియు అభ్యర్థన ఓవర్హెడ్పై ఆధారపడి ఉంటుంది. ఒక నెల 30 రోజులు, మీ వారపు షెడ్యూల్ పునరావృతమవుతుంది.
బెంచ్‌మార్క్ మూలాలను వీక్షించండి$54.2830-రోజుల నెలకు
100% పని లోడ్ వద్ద
స్థూల అంచనా, విద్యుత్, ఫీజులు మరియు పన్నుల ముందు.
310.2M ఇన్‌పుట్ టోకెన్లు$31.02
77.5M అవుట్‌పుట్ టోకెన్లు$23.26
మీ వారపు షెడ్యూల్40 GPU-గంటలు
మీ ప్రణాళిక ప్రకారం అందుబాటులో ఉన్న సమయంమిగిలిన రోజు
5 రోజులు ఎంపిక చేయబడ్డాయి1 GPU × 8 గంటలు × 5 రోజులు
ఇది సింథటిక్ పరిస్థితి, చెల్లింపు ఆఫర్ కాదు. నిజమైన సేవ మరియు రివార్డులు అర్హత, డిమాండ్ మరియు ప్రోగ్రామ్ నిబంధనలపై ఆధారపడి ఉంటాయి. ఎక్స్చేంజ్ మరియు మిషన్ తమ స్వంత ప్రోత్సాహాలను కలిగి ఉంటాయి.
బిల్డర్ ప్రొవైడర్‌తో ఎలా భిన్నంగా ఉంటుంది?
ఒక Builder తమకు చెందిన అప్లికేషన్ నుండి AI ట్రాఫిక్‌ను మోనటైజ్ చేస్తారు. ఒక Provider నెట్‌వర్క్‌కు సేవ చేయడానికి అర్హమైన కంప్యూట్‌ను అందిస్తారు. వారి ఆదాయం వేర్వేరు కృషుల నుండి వస్తుంది.
నేను ఎక్కడ ప్రారంభించాలి?
అవసరాలను సమీక్షించడానికి మరియు మీ ఆఫరింగ్‌ను కాన్ఫిగర్ చేయడానికి Provider వర్క్‌స్పేస్‌ను తెరవండి. మోడల్స్ మరియు ప్రొవైడర్ పాలసీలు ఎలా ప్రదర్శించబడతాయో అర్థం చేసుకోవడానికి పబ్లిక్ క్యాటలాగ్‌ను ఉపయోగించండి.
ShareAI నా అనువర్తనాన్ని నిర్మించడమా లేదా హోస్ట్ చేయడమా?
మీ అప్లికేషన్ మీ టీమ్ ద్వారా నిర్మించబడింది మరియు హోస్ట్ చేయబడింది. ShareAI నెట్‌వర్క్ ద్వారా రూట్ చేయబడిన ఇన్‌ఫరెన్స్ కోసం రూటింగ్, వినియోగం మరియు చెల్లింపు లేయర్‌ను అందిస్తుంది.
మీ కృషిని కనెక్ట్ చేయండి