आपका इन्फ्रास्ट्रक्चर
उस कंप्यूट को लाएं जिसे आप Provider सेटअप में संचालित करते हैं।
GPU मालिकों और इंफरेंस प्रदाताओं के लिए
ShareAI नेटवर्क के लिए योग्य कंप्यूट उपलब्ध कराएं। रूटेड इन्फरेंस को सर्व करें और आपके योगदान से उत्पन्न Provider रिवॉर्ड्स को ट्रैक करें।
कनेक्ट करेंयोग्य इंफ्रास्ट्रक्चर लाएं
कॉन्फ़िगर करेंसमर्थित ऑफरिंग्स चुनें
सेवा देंरूटेड इंफरेंस में योगदान करें
ट्रैक करेंअपने प्रोवाइडर रिवॉर्ड्स की समीक्षा करें
हल करने लायक हिस्सा
इंफ्रास्ट्रक्चर का मालिक होना केवल काम का एक हिस्सा है। इसे उपलब्ध कराना, अनुरोधों को सर्व करना और इसके योगदान को समझना भी महत्वपूर्ण है।
एक स्पष्ट मॉडल
Provider आवश्यकताओं का अन्वेषण करें, समर्थित क्षमता कनेक्ट करें और कंसोल के माध्यम से अपनी भागीदारी प्रबंधित करें।
जहां यह फिट बैठता है
उस कंप्यूट को लाएं जिसे आप Provider सेटअप में संचालित करते हैं।
ShareAI नेटवर्क के माध्यम से योग्य वर्कलोड्स को सर्व करें।
अपने Provider वर्कस्पेस में उपयोग और रिवॉर्ड्स को ट्रैक करें।
अपने GPU को काम पर लगाएं
अपना GPU चुनें, अपनी दरें सेट करें और जानें कि एक पूरी तरह से बुक शेड्यूल कितना मूल्यवान हो सकता है।
संदर्भ मॉडलLlama 2 7B · Q4_0
छोटे अनुरोध: 512 इनपुट टोकन और 128 आउटपुट टोकन। प्रत्येक GPU एक समय में एक अनुरोध को संभालता है।
क्या आपके पास अपना बेंचमार्क है? दोनों गति बदलें। दूसरा GPU चुनने पर इसका संदर्भ मान पुनर्स्थापित हो जाएगा।
100% का मतलब है कि आपके चयनित घंटों के दौरान अनुरोध लगातार आते हैं। निष्क्रिय समय को ध्यान में रखते हुए इसे कम करें।
प्रकाशित गति सामुदायिक llama.cpp परीक्षणों से आती है, जिसमें Flash Attention बंद है। RTX 3080 Ti प्रीसेट RTX 3080 संदर्भ का उपयोग करता है; यह एक अनुमान है, मापा गया 3080 Ti परिणाम नहीं।
इनपुट प्रोसेसिंग और आउटपुट जनरेशन एक ही समय सीमा साझा करते हैं। वास्तविक थ्रूपुट संदर्भ, सॉफ़्टवेयर और अनुरोध ओवरहेड पर भी निर्भर करता है। एक महीना 30 दिनों का होता है, जिसमें आपका साप्ताहिक शेड्यूल दोहराया जाता है।
बेंचमार्क स्रोत देखें100% जॉब लोड पर
सकल अनुमान, बिजली, शुल्क और करों से पहले।
यह एक सिंथेटिक परिदृश्य है, भुगतान प्रस्ताव नहीं। वास्तविक सेवा और पुरस्कार पात्रता, मांग और कार्यक्रम की शर्तों पर निर्भर करते हैं। एक्सचेंज और मिशन के अपने प्रोत्साहन हैं।
एक Builder अपने स्वामित्व वाले एप्लिकेशन से AI ट्रैफिक का मुद्रीकरण करता है। एक Provider नेटवर्क की सेवा के लिए योग्य कंप्यूट का योगदान देता है। उनकी कमाई अलग-अलग योगदानों से आती है।
आवश्यकताओं की समीक्षा करने और अपनी पेशकश को कॉन्फ़िगर करने के लिए Provider कार्यक्षेत्र खोलें। यह समझने के लिए सार्वजनिक कैटलॉग का उपयोग करें कि मॉडल और प्रदाता नीतियां कैसे प्रस्तुत की जाती हैं।
आपका एप्लिकेशन आपकी टीम द्वारा बनाया और होस्ट किया गया है। ShareAI नेटवर्क के माध्यम से रूट किए गए इंफरेंस के लिए रूटिंग, उपयोग और भुगतान लेयर प्रदान करता है।
अपना योगदान कनेक्ट करें