एक शोधण्यायोग्य ऑफरिंग
बिल्डर्सना आपण प्रदान केलेले मॉडेल्स आणि धोरणे समजून घेण्यास मदत करा.
इनफरन्स Providers साठी
तुमची इनफरन्स सेवा.अधिक Builders शी कनेक्टेड.
ShareAI मार्केटप्लेसद्वारे समर्थित मॉडेल्स आणि इनफरन्स क्षमता उपलब्ध करा, जिथे अ‍ॅप्लिकेशन्स Providers शोधतात आणि AI विनंत्या रूट करतात.
तुमची इन्फ्रास्ट्रक्चर. नेटवर्कमधील तुमची भूमिका.
अनुप्रयोग
मॉडेल्स आणि प्रदाते
अनुमान विनंत्या
शेअरएआयरूट · मीटर · बिल
आपले योगदानकनेक्टेड वापर आणि पेमेंट्स
01
कनेक्ट करापात्र पायाभूत सुविधा आणा
02
कॉन्फिगर करासमर्थित ऑफरिंग्स निवडा
03
सेवा द्यारूटेड अनुमानामध्ये योगदान द्या
04
ट्रॅकआपल्या प्रदाता पुरस्कारांचे पुनरावलोकन करा
सोडवण्यासारखा भाग
एक एंडपॉइंट अजून वितरणाची आवश्यकता आहे.
मॉडेल सेवा देणे एक काम आहे. त्याला आवश्यक असलेल्या अनुप्रयोगांपर्यंत पोहोचणे आणि सतत वापर व्यवस्थापित करणे हे दुसरे आहे.
एक स्पष्ट मॉडेल
अनुप्रयोगांना त्यांना हवे असलेले मॉडेल्स जिथे आहेत तिथे भेटा.
प्रदाता कार्यक्षेत्र वापरून आपली ऑफरिंग कॉन्फिगर करा आणि सार्वजनिक कॅटलॉगमध्ये समर्थित मॉडेल्स कसे दिसतात ते एक्सप्लोर करा.
जिथे ते बसते
एक योगदान जे कनेक्ट करते.
एक सामान्य एकत्रीकरण मार्ग
अनुप्रयोगांद्वारे वापरल्या जाणाऱ्या समान रूटिंग लेयरमध्ये सहभागी व्हा.
प्रदाता अर्थशास्त्र
आपले उत्पन्न पात्र अनुमान क्षमतेतून येते, बिल्डर मार्जिन्सपेक्षा वेगळे.
तुमचा GPU कामाला लावा
तुमची क्षमता कशी दिसू शकते?
तुमचा GPU निवडा, तुमचे दर सेट करा आणि पूर्ण बुक केलेल्या वेळापत्रकाचे मूल्य काय असेल ते शोधा.
RTX 3080-आधारित अंदाजप्रति सेकंद, प्रति GPU सुमारे 140 आउटपुट टोकन्स.
24 पर्यंत
मॉडेल, वेग आणि जॉब लोड
संदर्भ मॉडेलLlama 2 7B · Q4_0
लहान विनंत्या: 512 इनपुट टोकन्स आणि 128 आउटपुट टोकन्स. प्रत्येक GPU एकावेळी एक विनंती हाताळतो.
तुमच्याकडे स्वतःचा बेंचमार्क आहे का? दोन्ही वेग बदला. दुसरा GPU निवडल्यास त्याचे संदर्भ मूल्य पुनर्स्थित होईल.
100% म्हणजे विनंत्या तुमच्या निवडलेल्या तासांमध्ये सतत येतात. रिकाम्या वेळेचा विचार करण्यासाठी ते कमी करा.
प्रकाशित वेग समुदाय llama.cpp चाचण्यांमधून Flash Attention बंद असताना आले आहेत. RTX 3080 Ti प्रीसेट RTX 3080 संदर्भ वापरतो; हा अंदाज आहे, मोजलेला 3080 Ti परिणाम नाही.
इनपुट प्रक्रिया आणि आउटपुट निर्मिती समान वेळ बजेट सामायिक करतात. वास्तविक थ्रूपुट संदर्भ, सॉफ्टवेअर आणि विनंती ओव्हरहेडवर देखील अवलंबून असतो. एक महिना 30 दिवसांचा असतो, तुमचे साप्ताहिक वेळापत्रक पुनरावृत्ती होते.
बेंचमार्क स्रोत पहा$54.28प्रति 30-दिवस महिना
100% जॉब लोडवर
एकूण अंदाज, वीज, शुल्क आणि करांपूर्वी.
310.2M इनपुट टोकन्स$31.02
77.5M आउटपुट टोकन्स$23.26
तुमचे साप्ताहिक वेळापत्रक40 GPU-तास
तुमची नियोजित उपलब्धताउर्वरित दिवस
५ दिवस निवडले1 GPU × 8 तास × 5 दिवस
हे एक कृत्रिम परिदृश्य आहे, पेआउट ऑफर नाही. वास्तविक सेवा आणि Rewards पात्रता, मागणी आणि प्रोग्राम अटींवर अवलंबून असतात. एक्सचेंज आणि मिशनचे स्वतःचे प्रोत्साहन आहेत.
बिल्डर आणि प्रोव्हायडर यामध्ये काय फरक आहे?
बिल्डर त्यांच्या मालकीच्या अनुप्रयोगातून AI ट्रॅफिकचे उत्पन्न मिळवतो. प्रदाता नेटवर्कला सेवा देण्यासाठी पात्र संगणन योगदान देतो. त्यांची कमाई वेगवेगळ्या योगदानांमधून येते.
मी कुठे सुरुवात करावी?
आवश्यकता पुनरावलोकन करण्यासाठी आणि तुमची ऑफरिंग कॉन्फिगर करण्यासाठी प्रदाता कार्यक्षेत्र उघडा. मॉडेल्स आणि प्रदाता धोरणे कशी सादर केली जातात हे समजण्यासाठी सार्वजनिक कॅटलॉग वापरा.
ShareAI माझा अनुप्रयोग तयार करते किंवा होस्ट करते का?
तुमचा अनुप्रयोग तुमच्या टीमद्वारे तयार केला जातो आणि होस्ट केला जातो. ShareAI नेटवर्कद्वारे रूट केलेल्या इनफरन्ससाठी रूटिंग, वापर आणि पेमेंट लेयर पुरवतो.
तुमचे योगदान जोडा