तुमची पायाभूत सुविधा
तुम्ही ऑपरेट करत असलेले Compute Provider सेटअपमध्ये आणा.
GPU मालक आणि इनफरन्स प्रदात्यांसाठी
ShareAI नेटवर्कसाठी पात्र Compute उपलब्ध करा. रूटेड इनफरन्स सर्व्ह करा आणि तुमच्या योगदानाने निर्माण केलेल्या Provider रिवॉर्ड्स ट्रॅक करा.
कनेक्ट करापात्र पायाभूत सुविधा आणा
कॉन्फिगर करासमर्थित ऑफरिंग्स निवडा
सेवा द्यारूटेड अनुमानामध्ये योगदान द्या
ट्रॅकआपल्या प्रदाता पुरस्कारांचे पुनरावलोकन करा
सोडवण्यासारखा भाग
इन्फ्रास्ट्रक्चरचे मालक असणे हे कामाचा फक्त एक भाग आहे. ते उपलब्ध करणे, विनंत्या पूर्ण करणे आणि त्याचे योगदान समजून घेणे देखील महत्त्वाचे आहे.
एक स्पष्ट मॉडेल
Provider आवश्यकता एक्सप्लोर करा, समर्थित क्षमता कनेक्ट करा आणि Console च्या माध्यमातून तुमचा सहभाग व्यवस्थापित करा.
जिथे ते बसते
तुम्ही ऑपरेट करत असलेले Compute Provider सेटअपमध्ये आणा.
ShareAI नेटवर्कद्वारे पात्र वर्कलोड्स सर्व्ह करा.
तुमच्या Provider workspace मध्ये वापर आणि रिवॉर्ड्स ट्रॅक करा.
तुमचा GPU कामाला लावा
तुमचा GPU निवडा, तुमचे दर सेट करा आणि पूर्ण बुक केलेल्या वेळापत्रकाचे मूल्य काय असेल ते शोधा.
संदर्भ मॉडेलLlama 2 7B · Q4_0
लहान विनंत्या: 512 इनपुट टोकन्स आणि 128 आउटपुट टोकन्स. प्रत्येक GPU एकावेळी एक विनंती हाताळतो.
तुमच्याकडे स्वतःचा बेंचमार्क आहे का? दोन्ही वेग बदला. दुसरा GPU निवडल्यास त्याचे संदर्भ मूल्य पुनर्स्थित होईल.
100% म्हणजे विनंत्या तुमच्या निवडलेल्या तासांमध्ये सतत येतात. रिकाम्या वेळेचा विचार करण्यासाठी ते कमी करा.
प्रकाशित वेग समुदाय llama.cpp चाचण्यांमधून Flash Attention बंद असताना आले आहेत. RTX 3080 Ti प्रीसेट RTX 3080 संदर्भ वापरतो; हा अंदाज आहे, मोजलेला 3080 Ti परिणाम नाही.
इनपुट प्रक्रिया आणि आउटपुट निर्मिती समान वेळ बजेट सामायिक करतात. वास्तविक थ्रूपुट संदर्भ, सॉफ्टवेअर आणि विनंती ओव्हरहेडवर देखील अवलंबून असतो. एक महिना 30 दिवसांचा असतो, तुमचे साप्ताहिक वेळापत्रक पुनरावृत्ती होते.
बेंचमार्क स्रोत पहा100% जॉब लोडवर
एकूण अंदाज, वीज, शुल्क आणि करांपूर्वी.
हे एक कृत्रिम परिदृश्य आहे, पेआउट ऑफर नाही. वास्तविक सेवा आणि Rewards पात्रता, मागणी आणि प्रोग्राम अटींवर अवलंबून असतात. एक्सचेंज आणि मिशनचे स्वतःचे प्रोत्साहन आहेत.
बिल्डर त्यांच्या मालकीच्या अनुप्रयोगातून AI ट्रॅफिकचे उत्पन्न मिळवतो. प्रदाता नेटवर्कला सेवा देण्यासाठी पात्र संगणन योगदान देतो. त्यांची कमाई वेगवेगळ्या योगदानांमधून येते.
आवश्यकता पुनरावलोकन करण्यासाठी आणि तुमची ऑफरिंग कॉन्फिगर करण्यासाठी प्रदाता कार्यक्षेत्र उघडा. मॉडेल्स आणि प्रदाता धोरणे कशी सादर केली जातात हे समजण्यासाठी सार्वजनिक कॅटलॉग वापरा.
तुमचा अनुप्रयोग तुमच्या टीमद्वारे तयार केला जातो आणि होस्ट केला जातो. ShareAI नेटवर्कद्वारे रूट केलेल्या इनफरन्ससाठी रूटिंग, वापर आणि पेमेंट लेयर पुरवतो.
तुमचे योगदान जोडा