एक खोजने योग्य ऑफरिंग
बिल्डर्स को समझने में मदद करें कि आप कौन से मॉडल्स और नीतियां प्रदान करते हैं।
इनफरेंस प्रदाताओं के लिए
आपकी इनफरेंस सेवा।अधिक Builders से जुड़ा।
समर्थित मॉडलों और इनफरेंस क्षमता को ShareAI मार्केटप्लेस के माध्यम से उपलब्ध कराएं, जहां एप्लिकेशन प्रदाताओं को खोजते हैं और AI अनुरोधों को रूट करते हैं।
आपका इंफ्रास्ट्रक्चर। नेटवर्क में आपकी भूमिका।
एप्लिकेशन
मॉडल्स और प्रोवाइडर्स
इंफरेंस अनुरोध
शेयरएआईरूट · मीटर · बिल
आपका योगदानकनेक्टेड उपयोग और भुगतान
01
कनेक्ट करेंयोग्य इंफ्रास्ट्रक्चर लाएं
02
कॉन्फ़िगर करेंसमर्थित ऑफरिंग्स चुनें
03
सेवा देंरूटेड इंफरेंस में योगदान करें
04
ट्रैक करेंअपने प्रोवाइडर रिवॉर्ड्स की समीक्षा करें
हल करने लायक हिस्सा
एक एंडपॉइंट को अभी भी वितरण की आवश्यकता है।
एक मॉडल को सेवा देना एक कार्य है। उन एप्लिकेशनों तक पहुंचना जिन्हें इसकी आवश्यकता है और चल रहे उपयोग को प्रबंधित करना दूसरा।
एक स्पष्ट मॉडल
उन एप्लिकेशनों से मिलें जो मॉडल्स चुनते हैं।
प्रोवाइडर वर्कस्पेस का उपयोग करके अपनी ऑफरिंग को कॉन्फ़िगर करें और देखें कि सार्वजनिक कैटलॉग में समर्थित मॉडल्स कैसे दिखाई देते हैं।
जहां यह फिट बैठता है
एक योगदान जो जोड़ता है।
एक सामान्य इंटीग्रेशन पथ
उसी रूटिंग लेयर में भाग लें जिसका उपयोग एप्लिकेशन करते हैं।
प्रोवाइडर अर्थशास्त्र
आपकी कमाई योग्य इंफरेंस क्षमता से आती है, जो बिल्डर मार्जिन से अलग है।
अपने GPU को काम पर लगाएं
आपकी क्षमता कैसी दिख सकती है?
अपना GPU चुनें, अपनी दरें सेट करें और जानें कि एक पूरी तरह से बुक शेड्यूल कितना मूल्यवान हो सकता है।
RTX 3080-आधारित अनुमानप्रति GPU प्रति सेकंड लगभग 140 आउटपुट टोकन।
अधिकतम 24
मॉडल, गति और जॉब लोड
संदर्भ मॉडलLlama 2 7B · Q4_0
छोटे अनुरोध: 512 इनपुट टोकन और 128 आउटपुट टोकन। प्रत्येक GPU एक समय में एक अनुरोध को संभालता है।
क्या आपके पास अपना बेंचमार्क है? दोनों गति बदलें। दूसरा GPU चुनने पर इसका संदर्भ मान पुनर्स्थापित हो जाएगा।
100% का मतलब है कि आपके चयनित घंटों के दौरान अनुरोध लगातार आते हैं। निष्क्रिय समय को ध्यान में रखते हुए इसे कम करें।
प्रकाशित गति सामुदायिक llama.cpp परीक्षणों से आती है, जिसमें Flash Attention बंद है। RTX 3080 Ti प्रीसेट RTX 3080 संदर्भ का उपयोग करता है; यह एक अनुमान है, मापा गया 3080 Ti परिणाम नहीं।
इनपुट प्रोसेसिंग और आउटपुट जनरेशन एक ही समय सीमा साझा करते हैं। वास्तविक थ्रूपुट संदर्भ, सॉफ़्टवेयर और अनुरोध ओवरहेड पर भी निर्भर करता है। एक महीना 30 दिनों का होता है, जिसमें आपका साप्ताहिक शेड्यूल दोहराया जाता है।
बेंचमार्क स्रोत देखें$54.28प्रति 30-दिन का महीना
100% जॉब लोड पर
सकल अनुमान, बिजली, शुल्क और करों से पहले।
310.2M इनपुट टोकन$31.02
77.5M आउटपुट टोकन$23.26
आपका साप्ताहिक शेड्यूल40 GPU-घंटे
आपकी नियोजित उपलब्धतादिन का बाकी हिस्सा
5 दिन चुने गए1 GPU × 8 घंटे × 5 दिन
यह एक सिंथेटिक परिदृश्य है, भुगतान प्रस्ताव नहीं। वास्तविक सेवा और पुरस्कार पात्रता, मांग और कार्यक्रम की शर्तों पर निर्भर करते हैं। एक्सचेंज और मिशन के अपने प्रोत्साहन हैं।
Builder एक Provider से कैसे अलग है?
एक Builder अपने स्वामित्व वाले एप्लिकेशन से AI ट्रैफिक का मुद्रीकरण करता है। एक Provider नेटवर्क की सेवा के लिए योग्य कंप्यूट का योगदान देता है। उनकी कमाई अलग-अलग योगदानों से आती है।
मुझे कहां से शुरू करना चाहिए?
आवश्यकताओं की समीक्षा करने और अपनी पेशकश को कॉन्फ़िगर करने के लिए Provider कार्यक्षेत्र खोलें। यह समझने के लिए सार्वजनिक कैटलॉग का उपयोग करें कि मॉडल और प्रदाता नीतियां कैसे प्रस्तुत की जाती हैं।
क्या ShareAI मेरा एप्लिकेशन बनाता या होस्ट करता है?
आपका एप्लिकेशन आपकी टीम द्वारा बनाया और होस्ट किया गया है। ShareAI नेटवर्क के माध्यम से रूट किए गए इंफरेंस के लिए रूटिंग, उपयोग और भुगतान लेयर प्रदान करता है।
अपना योगदान कनेक्ट करें