टेंसरब्लॉक फोर्ज विकल्प: रूटिंग, कुंजी और ऐप राजस्व

समीक्षित 22 अक्टूबर 2026। ShareAI टीम द्वारा लिखा गया। हम यहां तुलना की गई एक सेवा संचालित करते हैं। यह गाइड वास्तविक स्क्रीनशॉट्स, वर्तमान प्राथमिक संदर्भों और एक पिन किए गए Forge स्रोत निरीक्षण का उपयोग करता है। इसमें एक प्रस्तावित माइग्रेशन वर्कशीट शामिल है; कोई निजी Forge परिनियोजन, स्वतंत्र सुरक्षा ऑडिट, भुगतान इन्फरेंस बेंचमार्क या ग्राहक माइग्रेशन नहीं किया गया।

TensorBlock Forge विकल्पों के लिए, LiteLLM और Bifrost को उन गेटवे के लिए मूल्यांकन करें जिन्हें आप संचालित करते हैं, Kong और Apache APISIX को API गेटवे/कंट्रोल लेयर के लिए, और OpenRouter को प्रबंधित मॉडल एक्सेस के लिए। ShareAI प्रासंगिक है जब समर्थित इन्फरेंस, अनुमोदित ऐप AI अधिभार या पात्र स्वामित्व क्षमता मुख्य आवश्यकता हो। एप्लिकेशन URL बदलने से पहले क्रेडेंशियल कस्टडी, एंडपॉइंट व्यवहार और व्यावसायिक जिम्मेदारियों की तुलना करें।

होस्टेड Forge सेवा को स्रोत परिनियोजन से अलग करें।

Forge सेवा एक OpenAI-शैली इंटरफ़ेस और एक प्रोवाइडर/मॉडल नामकरण उदाहरण खाता साइन-इन के साथ प्रस्तुत करती है। भंडार README स्व-होस्टेड मिडलवेयर, प्रोवाइडर एडेप्टर, मॉडल उपनाम और की प्रबंधन का वर्णन करता है। एक सार्वजनिक साइन-इन पेज और एक स्रोत भंडार अलग-अलग प्रमाण हैं: इनमें से कोई भी यह साबित नहीं करता कि एक निजी होस्टेड खाते में कौन सा सटीक संशोधन या कॉन्फ़िगरेशन चल रहा है।

वास्तविक परिनियोजन संशोधन, निर्भरताएँ, डेटाबेस, एडेप्टर और कॉन्फ़िगरेशन को पिन करें। इस समीक्षा ने सार्वजनिक कमिट db6c9f5f0ba6 का निरीक्षण किया, बजाय इसके कि यह मान लिया जाए कि होस्टेड सेवा वही संशोधन चला रही है। एक विकल्प चुनते समय प्रोवाइडर खाता स्वामित्व और एप्लिकेशन अनुबंध को बनाए रखें। यदि मौजूदा रूट आवश्यकताओं को पूरा करता है, तो Forge को बनाए रखना उपयुक्त हो सकता है।

लाइसेंस लागत की तुलना करने से पहले वास्तविक व्यावसायिक शर्तें पढ़ें।

समीक्षित कमिट पर उपलब्ध LICENSE में Apache 2.0 के साथ अतिरिक्त शर्तें दी गई हैं। इन शर्तों में सूचीबद्ध श्रेणियों के लिए पूर्व लिखित व्यावसायिक प्राधिकरण की आवश्यकता होती है, जिनमें व्यावसायिक संशोधन/व्युत्पन्न कार्य, एंटरप्राइज़ परिनियोजन, सार्वजनिक क्लाउड-आधारित सेवाएं और व्यावसायिक हार्डवेयर वितरण शामिल हैं। इस फ़ाइल को Apache 2.0 व्यावसायिक उपयोग के लिए बिना प्रतिबंध के रूप में सारांशित न करें या यह न मानें कि स्रोत उपलब्धता का अर्थ है कि कोई व्यावसायिक समझौता आवश्यक नहीं है।

अपने इच्छित परिनियोजन के लिए लागू वास्तविक संशोधन और शर्तों को रिकॉर्ड करें। सॉफ़्टवेयर प्राधिकरण, भुगतान समर्थन, बुनियादी ढांचे और इनफरेंस-प्रदाता शुल्क को अलग-अलग करें। किसी प्रतिस्पर्धी गेटवे का मुख्य लाइसेंस स्वचालित रूप से उसके एंटरप्राइज़ नियंत्रण या प्रबंधित प्लेटफ़ॉर्म को शामिल नहीं करता है। यह लेख प्रकाशित फ़ाइल का वर्णन करता है; यह आपके मौजूदा अनुबंध या आपको प्राप्त किसी भिन्न अनुमति को स्थापित नहीं करता है।

एक नज़र में पाँच विकल्प

एक प्रतिनिधि एप्लिकेशन संचालन का उपयोग करें जिसमें उसका वास्तविक मॉडल, पेलोड, कॉलर और विफलता की शर्तें शामिल हों। परिनियोजन नियंत्रण, प्रॉवाइडर एक्सेस और फीचर स्कोप की तुलना व्यावसायिक वर्कफ़्लो से अलग से करें। एक राउटर, एक इनफरेंस रनटाइम और एक ग्राहक-भुगतान कार्यक्रम अलग-अलग मालिकों को बनाए रखते हुए एक साथ काम कर सकते हैं।

पाँच विकल्प: ताकत, सीमाएँ और उपयुक्तता

LiteLLM: गेटवे को स्वयं संचालित करें

सबसे उपयुक्त: इंजीनियरिंग टीमें जो प्रोवाइडर अकाउंट्स और समर्थित सेल्फ-होस्टेड मॉडल एंडपॉइंट्स के सामने अपना गेटवे चलाना चाहती हैं। ओपन-सोर्स प्रॉक्सी OpenAI-स्टाइल इंटरफेस, वर्चुअल कीज, खर्च ट्रैकिंग और रूटिंग कॉन्फ़िगरेशन प्रदान करता है।

फायदे: प्रॉक्सी परिनियोजन और इंफ्रास्ट्रक्चर पर नियंत्रण; कॉन्फ़िगर करने योग्य बजट और प्रोवाइडर रूटिंग। LiteLLM कस्टम प्राइसिंग और शुल्क मार्जिन का भी दस्तावेज़ीकरण करता है, इसलिए कॉन्फ़िगर करने योग्य मॉडल-कॉस्ट मार्कअप केवल ShareAI तक सीमित नहीं हैं।

नुकसान: ऑपरेटर अपग्रेड्स, उपलब्धता, स्टोरेज और डाउनस्ट्रीम प्रोवाइडर कॉन्फ़िगरेशन का मालिक होता है। प्रॉक्सी द्वारा रिकॉर्ड किया गया मार्जिन एक प्रबंधित ग्राहक-भुगतान और Builder-सेटलमेंट प्रोग्राम से अलग जिम्मेदारी है। व्यावसायिक सुविधाओं की अलग से समीक्षा करें।

मूल्य निर्धारण और परिनियोजन: ओपन-सोर्स कोर होस्टिंग, संचालन या इंफरेंस लागत को समाप्त नहीं करता है। अपने परिनियोजन आवश्यकताओं के अनुसार गेटवे दस्तावेज़ और कस्टम मूल्य निर्धारण संदर्भ की जांच करें।

Bifrost: एक और गेटवे जिसे आप संचालित कर सकते हैं

सबसे उपयुक्त: टीमें जो अपने नियंत्रण में एक गेटवे बनाए रखना चाहती हैं और एक अलग कार्यान्वयन और संचालन मॉडल का मूल्यांकन करना चाहती हैं। यह अनुभाग Maxim AI द्वारा Bifrost से संबंधित है, न कि समान नाम वाले असंबंधित प्रोजेक्ट्स से।

फायदे: इसका गेटवे बाइनरी या कंटेनर के रूप में चल सकता है, प्रोवाइडर कॉन्फ़िगरेशन, वर्चुअल कीज़ और ऑपरेशनल विज़िबिलिटी के साथ। एक स्व-प्रबंधित विकल्प आपको गेटवे प्रक्रिया की तुलना करने देता है जबकि आपके मौजूदा प्रोवाइडर संबंध बनाए रखता है। आधिकारिक सेटअप गाइड देखें।

नुकसान: आपकी टीम अभी भी एक चल रही सेवा, संरक्षित कॉन्फ़िगरेशन और अपस्ट्रीम एक्सेस की मालिक है। एंटरप्राइज क्षमताओं को अपने अलग समीक्षा की आवश्यकता होती है। प्रकाशित विक्रेता थ्रूपुट और विलंबता आंकड़े एक परीक्षण वातावरण पर निर्भर करते हैं; वे यह स्थापित नहीं करते कि आपके पूरे एप्लिकेशन की गति माइग्रेशन के बाद तेज़ हो जाएगी।

मूल्य निर्धारण और परिनियोजन: ओपन-सोर्स गेटवे को समर्थन और एंटरप्राइज शर्तों से अलग करें, फिर इन्फ्रास्ट्रक्चर और प्रोवाइडर उपयोग के लिए बजट बनाएं। बचत का अनुमान लगाने से पहले अपने स्वयं के प्रतिनिधि ट्रैफ़िक रिप्ले और त्रुटि परीक्षण चलाएं। यह लेख Bifrost और LiteLLM के प्रदर्शन की कोई स्वतंत्र तुलना नहीं करता।

Kong: नियंत्रण प्लेन और गेटवे को एक साथ चुनें

सर्वश्रेष्ठ के लिए: टीमें जो प्रबंधित और स्वामित्व वाली अवसंरचना के बीच API गेटवे/प्लेटफ़ॉर्म दृष्टिकोण की तुलना कर रही हैं। गेटवे संदर्भ सेवाओं, रूट्स, उपभोक्ताओं, प्लगइन्स और नियंत्रण/डेटा-प्लेन कॉन्फ़िगरेशन को अलग करता है।

फायदे: परिनियोजन विकल्प और विस्तारित गेटवे कॉन्फ़िगरेशन वर्तमान API संपत्ति के खिलाफ मैप करने के लिए एक ठोस संचालन मॉडल प्रदान करते हैं। संबंधित AI गेटवे स्कोप के भीतर AI ट्रैफ़िक की समीक्षा की जा सकती है।

नुकसान और लागत जांच: वास्तविक परिनियोजन और लाइसेंस प्राप्त क्षमताओं का चयन करें। पोर्टल, उपभोक्ता जीवनचक्र, कस्टम नीतियां और संचालन अभी भी व्यक्तिगत मैपिंग की आवश्यकता रखते हैं; एक कार्यशील रूट पूर्ण माइग्रेशन नहीं है। आवश्यक नियंत्रण/डेटा प्लेन, प्लगइन्स, समर्थन और स्वामित्व वाले रनटाइम का बजट बनाएं, बजाय इसके कि हर एंटरप्राइज़ क्षमता को मुफ्त मानें।

Apache APISIX: API गेटवे और AI प्लगइन्स को एक साथ तुलना करें।

सर्वश्रेष्ठ के लिए: टीमें जो एक API गेटवे संचालित करना चाहती हैं और उस प्लेटफ़ॉर्म के भीतर AI रूटिंग का मूल्यांकन करना चाहती हैं। Apache APISIX ai-proxy-multi प्लगइन के लिए समर्थित मॉडल/प्रदाता अनुरोध प्रारूप और कई अपस्ट्रीम इंस्टेंस दस्तावेज़ करता है।

फायदे: प्लगइन संदर्भ में लोड बैलेंसिंग, पुनः प्रयास, फॉलबैक और स्वास्थ्य-जांच सेटिंग्स शामिल हैं, जिसमें अनुरोध जानकारी लॉगिंग एकीकरण के लिए उपलब्ध है। आसपास का गेटवे दस्तावेज़ उन API अवधारणाओं को कवर करता है जिन्हें Kong के साथ अपनी तुलना की आवश्यकता है।

नुकसान: एक उपलब्ध प्लगइन नाम समान नीति अर्थ, देशी प्रोटोकॉल समर्थन या कॉन्फ़िगरेशन व्यवहार का प्रमाण नहीं है। वास्तविक APISIX रिलीज़ और आवश्यक प्लगइन्स को पिन करें; क्रेडेंशियल्स, नीति क्रम, स्ट्रीमिंग, त्रुटि हैंडलिंग और विफलता के तहत साक्ष्य को मान्य करें। वाणिज्यिक समर्थन और प्रबंधित पेशकशें Apache प्रोजेक्ट से अलग हैं।

लागत और परिनियोजन: गेटवे की होस्टिंग, कॉन्फ़िगरेशन/स्थिति, अपडेट, निगरानी और घटना प्रतिक्रिया, साथ ही अपस्ट्रीम इनफेरेंस के लिए खाता बनाएं। ओपन-सोर्स लाइसेंस मूल्य की तुलना प्रबंधित सेवा कुल से न करें और अंतर को गारंटीकृत बचत न कहें।

OpenRouter: प्रॉक्सी संचालित करने के बजाय प्रबंधित एक्सेस खरीदें

सबसे उपयुक्त: ऐसे एप्लिकेशन जो मुख्य रूप से मॉडलों और प्रोवाइडर्स के होस्टेड चयन की आवश्यकता रखते हैं, एक प्रबंधित अकाउंट के माध्यम से। यह संचालन जिम्मेदारी में एक व्यावहारिक बदलाव है जब रूटिंग सेवा चलाने से उत्पाद में बहुत कम मूल्य जुड़ता है।

फायदे: अकाउंट फंडिंग, कैटलॉग एक्सेस और प्रोवाइडर रूटिंग को एक सेवा के रूप में संभाला जाता है। एप्लिकेशन परिचित HTTP अनुरोध पैटर्न का उपयोग कर सकता है जबकि टीम उपलब्ध प्रोवाइडर्स का मूल्यांकन करती है, बजाय इसके कि एक और प्रॉक्सी परिनियोजन बनाए रखा जाए।

नुकसान: आप OpenRouter की रूटिंग सेवा संचालित नहीं करते हैं। मॉडल समर्थन, प्रदाता व्यवहार, BYOK शुल्क और निजी परिनियोजन के लिए अलग-अलग जांच की आवश्यकता होती है। इसके Enterprise Private Endpoints मौजूद हैं, समर्थित-प्रदाता और कैटलॉग-मॉडल शर्तों के साथ; यह कहना कि यह निजी परिनियोजन से कनेक्ट नहीं हो सकता, गलत होगा।

मूल्य निर्धारण और परिनियोजन: वर्तमान खाता वित्तपोषण और BYOK शर्तों के साथ-साथ इनफेरेंस दरों की समीक्षा करें। मानक वर्तमान में क्रेडिट खरीद पर 5.5% जोड़ता है; यह एक वित्तपोषण शुल्क है, न कि प्रत्येक प्रदाता की विज्ञापित टोकन दर पर जोड़ा गया समकक्ष प्रतिशत। OpenRouter विकल्प गाइड स्वामित्व और मुद्रीकरण के अलग-अलग प्रश्नों को समझाता है।

प्रॉवाइडर सीक्रेट्स, गेटवे कुंजियाँ और लॉगिन टोकन को अलग करें

समीक्षित सुरक्षा कार्यान्वयन Fernet का उपयोग प्रॉवाइडर क्रेडेंशियल्स को एन्क्रिप्ट/डिक्रिप्ट करने के लिए करता है। यह ENCRYPTION_KEY से रनटाइम एन्क्रिप्शन मान पढ़ता है और SECRET_KEY से JWT साइनिंग मान। README में अतिरिक्त उदाहरण नाम शामिल हैं, इसलिए अपने चयनित संशोधन द्वारा उपयोग किए गए वास्तविक कोड/कॉन्फ़िगरेशन को अर्हता दें। यह न मानें कि एक अप्रयुक्त वेरिएबल लाइव परिनियोजन की सुरक्षा करता है।

एन्क्रिप्शन कोड ENCRYPTION_KEY अनुपस्थित होने पर एक कुंजी उत्पन्न करता है। संचालनात्मक अनुमान: उस प्रक्रिया-जनित मान पर निर्भरता एक अलग प्रक्रिया या पुनः आरंभ की गई इंस्टेंस को पहले संग्रहीत क्रेडेंशियल्स को डिक्रिप्ट करने से रोक सकती है। एक संरक्षित, स्थायी कॉन्फ़िगरेशन प्रदान करें और प्रतिकृति/पुनः आरंभ और पुनर्स्थापना व्यवहार को सत्यापित करें। यह अनुमान स्थिर कोड निरीक्षण से आता है, न कि किसी परिनियोजित Forge खाते के खिलाफ पुन: उत्पन्न आउटेज से।

प्रदाता सिफरटेक्स्ट और Forge कॉलर क्रेडेंशियल अलग-अलग ऑब्जेक्ट हैं। प्रदाता मॉडल में encrypted_api_key है; Forge कुंजी मॉडल में एक अलग key स्ट्रिंग और प्रदाता-स्कोप एसोसिएशन है। प्रदाता-कुंजी एन्क्रिप्शन कथन को इस दावे में विस्तारित न करें कि हर क्रेडेंशियल, कैश, डेटाबेस फ़ील्ड या रिकॉर्ड को समान तरीके से एन्क्रिप्ट या हैश किया गया है।

कुंजियों का उपयोग उस घटक द्वारा किया जाना चाहिए जो अपस्ट्रीम प्रदाता को कॉल करता है। रनटाइम एक्सेस, संरक्षित कॉन्फ़िगरेशन, बैकअप, कैश और लॉग इसलिए डेटाबेस फ़ील्ड के साथ-साथ कस्टडी समीक्षा में शामिल हैं। स्रोत निरीक्षण सुरक्षित मेमोरी मिटाने, हार्डवेयर-एनक्लेव सीमा, रिमोट एटेस्टेशन या स्वतंत्र सुरक्षा प्रमाणन को स्थापित नहीं करता है। हर उम्मीदवार, जिसमें ShareAI शामिल है, पर समान साक्ष्य मानक लागू करें।

प्रदाता स्कोप, उपनाम और एंडपॉइंट व्यवहार को स्पष्ट रूप से मैप करें।

कुंजी-प्रबंधन रूट्स और अनुरोध प्रमाणीकरण में स्वामित्व, सक्रिय/हटाई गई कुंजी और प्रदाता-स्कोप लॉजिक शामिल हैं। माइग्रेशन के दौरान, यह बनाए रखें कि प्रत्येक कॉलर कुंजी का स्वामी कौन है और यह किन अपस्ट्रीम क्रेडेंशियल्स तक पहुंच सकती है। इच्छित अनुमत और अस्वीकृत मामलों को साबित करें, जिसमें स्कोप परिवर्तन और कुंजी पुनर्जनन शामिल हैं। एक सफल लॉगिन एक विशेष प्रदाता को इनवोक करने की अनुमति से अलग जांच है।

एक कस्टम बेस URL केवल ShareAI तक सीमित नहीं है। Forge का प्रोवाइडर मॉडल इस फ़ील्ड को शामिल करता है, और एडॉप्टर फैक्ट्री में एक कस्टमाइज़्ड OpenAI-स्टाइल एडॉप्टर पथ के साथ प्रोवाइडर-विशिष्ट एडॉप्टर शामिल हैं। वास्तविक URL, मॉडल मैपिंग, प्रमाणीकरण, नेटवर्क एक्सेस और समर्थित एंडपॉइंट को योग्य बनाएं; एक कॉन्फ़िगरेबल फ़ील्ड मनमाने प्रोटोकॉल या मॉडल संगतता स्थापित नहीं करता है।

प्रोवाइडर सेवा विभिन्न एंडपॉइंट प्रकारों और उपयोग पथों को संभालती है। इसकी समीक्षा की गई इमेज-जेनरेशन/एडिट पथ स्पष्ट रूप से प्रोवाइडर समर्थन को सीमित करता है, जबकि Completion, Responses और embedding कॉल्स के लिए अलग-अलग एडॉप्टर कार्य हैं। एक सफल Chat Completions अनुरोध सभी एडॉप्टर्स में समान Responses, इमेज, embedding, टूल-कॉल या स्ट्रीमिंग व्यवहार स्थापित नहीं करता है।

माइग्रेशन मैनिफेस्ट में गेटवे क्रेडेंशियल्स, प्रोवाइडर क्रेडेंशियल्स और मॉडल उपनामों को अलग रखें। एक प्रोवाइडर-प्रिफिक्स्ड मॉडल पहचानकर्ता, एक उपनाम और अपस्ट्रीम डिप्लॉयमेंट नाम विभिन्न ऑब्जेक्ट्स को संदर्भित कर सकते हैं। अनुरोधित नाम और प्रभावी गंतव्य को रिकॉर्ड करें ताकि एक साधारण रीनेमिंग चुपचाप वर्कलोड को एक अलग मॉडल या खाते में स्थानांतरित न कर दे।

एक मूल क्रेडेंशियल और गंतव्य स्वीकृति वर्कशीट

• वर्तमान संशोधन, लाइसेंस ग्रांट, कॉलर कुंजियाँ, प्रोवाइडर क्रेडेंशियल्स, स्कोप्स, उपनाम और आवश्यक एंडपॉइंट्स की सूची बनाएं। स्रोत, एन्क्रिप्टेड डेटा, एन्क्रिप्शन कॉन्फ़िगरेशन और वर्तमान सेवा रूट को संरक्षित करें।
• उम्मीदवार के खिलाफ एक गैर-महत्वपूर्ण संचालन का पूर्वाभ्यास करें। सामान्य आउटपुट, एक गलत/रद्द कॉलर और एक अस्वीकृत अपस्ट्रीम गंतव्य की जांच करें, इससे पहले कि ट्रैफ़िक बढ़ाया जाए।
• वास्तविक स्ट्रीम/टूल/त्रुटि मामलों और अनुमत पुनः प्रयास/फॉलबैक पथ का अभ्यास करें। अंतिम एप्लिकेशन परिणाम, पूर्ण साइड इफेक्ट्स और तार्किक संचालन के लिए संरक्षित रिकॉर्ड की पुष्टि करें।
• पुनः आरंभ, प्रतिकृति और पुनर्प्राप्ति व्यवहार को सत्यापित करें जो संरक्षित स्थिति के लिए है। एक सीमित समूह को एक प्रतिवर्ती मार्ग परिवर्तन के साथ स्थानांतरित करें; मूल साक्ष्य और लंबित लेखांकन को तब तक बनाए रखें जब तक कि सुलह पूरी न हो जाए।

एक एडेप्टर सूची, एक स्वीकृत कॉन्फ़िगरेशन आयात और एक प्रबंधन स्थिति को मध्यवर्ती अवलोकन के रूप में मानें। वे रनटाइम एक्सेस आइसोलेशन, स्ट्रीम पूर्णता, साझा कोटा व्यवहार या पुनर्प्राप्ति को साबित नहीं करते हैं। वर्कशीट जानबूझकर उन चीजों का नाम देती है जिन्हें देखा जाना चाहिए, बिना यह दावा किए कि इस समीक्षा ने हर गेटवे को तैनात किया या हर प्रदाता का परीक्षण किया।

विफलता व्यवहार, उपयोग और पूर्ण प्रसंस्करण पथ को परिभाषित करें।

समीक्षा किए गए प्रदाता-सेवा कोड में सामान्य प्रतिक्रियाओं और स्ट्रीम्स के लिए उपयोग ट्रैकिंग पथ हैं। केवल इसलिए Forge को उपयोग रिकॉर्ड की कमी के रूप में वर्णित न करें क्योंकि पुराने रोडमैप टेक्स्ट में एनालिटिक्स कार्य सूचीबद्ध हैं। इसके विपरीत, एक उपयोग कोड पथ यह प्रमाण नहीं है कि हर बाधित स्ट्रीम, प्रदाता स्कीमा या लेखांकन रिकॉर्ड को आपके परिनियोजन में योग्य किया गया है।

एक टाइमआउट, एक दर सीमा, एक अपस्ट्रीम प्रमाणीकरण विफलता, एक आंशिक स्ट्रीम और एक टूल क्रिया का परीक्षण करें जो पहले ही पूरी हो चुकी है। परिभाषित करें कि कौन सी विफलता एक और प्रयास को ट्रिगर कर सकती है और कौन सा गंतव्य अधिकृत है। तार्किक संचालन पहचान और अनुमत प्रयासों की गिनती बनाए रखें। एक दूसरा मॉडल अतिरिक्त शुल्क या डुप्लिकेट साइड इफेक्ट्स बना सकता है, भले ही एप्लिकेशन को केवल एक अंतिम उत्तर प्राप्त हो।

स्थान आवश्यकताओं के लिए, एप्लिकेशन, गेटवे, कॉन्फ़िगर किए गए अपस्ट्रीम मॉडल होस्ट, कैश, लॉग और हर फॉलबैक को ट्रेस करें। प्रॉक्सी को स्वयं होस्ट करना आपके बुनियादी ढांचे के अंदर किसी बाहरी प्रदाता के इन्फरेंस को नहीं डालता है। इसी तरह, एक होस्टेड गेटवे की सार्वजनिक प्रदाता सूची एक निजी अनुरोध के लिए सटीक मार्ग स्थापित नहीं करती है। जहां क्षेत्रीय प्रसंस्करण आवश्यकता को साक्ष्य की आवश्यकता होती है, वहां यूरोपीय AI रूटिंग वर्कशीट का उपयोग करें।

समान स्वीकृत कार्य के लिए कुल लागत की तुलना करें: सॉफ़्टवेयर अधिकार, गेटवे संचालन, डेटाबेस/कैश और पुनर्प्राप्ति, जांच रिकॉर्ड, प्रदाता उपयोग और माइग्रेशन ओवरलैप। मापा गया एप्लिकेशन विलंबता को विक्रेता के केवल गेटवे बेंचमार्क से अलग करें। यह गाइड गारंटीकृत बचत, सुरक्षा लाभ या सबसे तेज़ उम्मीदवार स्थापित नहीं करता है।

ShareAI स्वीकृत ऐप अधिभार और पात्र स्वामित्व क्षमता के लिए।

सर्वश्रेष्ठ के लिए: एक ऐसा एप्लिकेशन जिसे समर्थित AI इन्फरेंस की आवश्यकता है, एक स्वीकृत ऐप AI अधिभार या एक पात्र स्वामित्व इन्फरेंस-सेवा मार्ग। ShareAI अपने रूटिंग, उपयोग, ग्राहक-भुगतान और विशेष राजस्व वर्कफ़्लो प्रदान करता है। आपका ऐप कहीं और बनाया और होस्ट किया गया है; इसके एप्लिकेशन अनुमतियों और व्यावसायिक डेटा जिम्मेदारियों को स्पष्ट रखें।

फायदे: एक पात्र स्वीकृत ऐप ग्राहक की स्वीकृति के बाद रूटेड AI उपयोग पर अधिभार को कॉन्फ़िगर कर सकता है, जिसमें ShareAI को भुगतान और Builder की आय शामिल है। एप्लिकेशन ऑनबोर्डिंग केवल एक प्रॉक्सी के अंदर कस्टम मार्कअप रिकॉर्ड करने से अलग है। नुकसान और लागत जांच: प्रोग्राम पात्रता, समर्थित मॉडल और वास्तविक प्रोसेसिंग पथ के लिए योग्यता की आवश्यकता होती है।

कंपनी Builders को भुगतान से पहले सत्यापन और 45-दिन की समीक्षा की आवश्यकता होती है; वर्तमान में, व्यक्तियों को नकद भुगतान के बजाय इनफेरेंस मूल्य प्राप्त होता है। परिकल्पना के अनुसार, $1,000 इनफेरेंस प्लस 15% अधिभार $1,150 चार्ज करता है और $150 सकल अधिभार शुल्क या समायोजन से पहले होता है। सकल राजस्व गारंटीकृत लाभ या त्वरित निपटान नहीं है।

इनफेरेंस-सेवा ऑनबोर्डिंग में आपके समर्थित एंडपॉइंट/इन्फ्रास्ट्रक्चर को शामिल किया जा सकता है, जबकि पात्र Prosumer/Provider भागीदारी लागू मॉडल, हार्डवेयर, अधिकार और प्रोग्राम शर्तों के तहत स्वामित्व क्षमता में योगदान कर सकती है। Builder एप्लिकेशन राजस्व, Provider कंप्यूट और Creator मॉडल अधिकार अलग रहते हैं। कनेक्शन ट्रैफिक, पुरस्कार, मनमाने एंडपॉइंट समर्थन या स्वचालित फॉलबैक की गारंटी नहीं देता।

आपके बैकएंड के लिए एक स्कोप्ड ShareAI अनुरोध।

अपने खाते के लिए वास्तव में पेश किए गए मॉडल का चयन करें और कुंजी को सर्वर-साइड रखें। मूल cURL/JavaScript ब्लॉक ShareAI के लागू किए गए Chat Completions रूट का उपयोग करता है। यह एक सिंटैक्स-चेक किया गया स्टैंडअलोन अनुरोध है, न कि क्रेडेंशियल-स्टोर माइग्रेशन, Forge उपनाम समानता का प्रमाण या एक भुगतान इनफेरेंस परिणाम।

curl --fail-with-body https://api.shareai.now/api/v1/chat/completions \
  -H "Authorization: Bearer $SHAREAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"YOUR_AVAILABLE_MODEL","messages":[{"role":"user","content":"Reply with one short greeting."}],"stream":false}'

const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
  method: "POST",
  headers: {
    Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: process.env.SHAREAI_MODEL,
    messages: [{ role: "user", content: "Reply with one short greeting." }],
    stream: false,
  }),
});
if (!response.ok) throw new Error(`Inference failed: ${response.status}`);
console.log(await response.json());

समर्थित व्यवहार के लिए वर्तमान ShareAI दस्तावेज़ से परामर्श करें। मूल प्रदाता/स्कोप मैनिफेस्ट को बनाए रखें और पूरे अनुरोध/परिणाम/साक्ष्य पथ को योग्य बनाएं। Bifrost तुलना और APISIX तुलना आसन्न संचालन और नीति निर्णयों को कवर करती हैं।

अक्सर पूछे जाने वाले प्रश्न

क्रेडेंशियल कस्टडी और AI व्यावसायिक प्रवाह को स्पष्ट रूप से चुनें

इच्छित कॉलर स्कोप, प्रोवाइडर डेस्टिनेशन, पूर्ण परिणाम और पुनर्प्राप्ति योग्य स्थिति के साथ एक ऑपरेशन का अभ्यास करें। अनुमोदित ऐप AI-सर्चार्ज वर्कफ़्लो के लिए, ShareAI Builder खोलें। पात्र स्वामित्व क्षमता के लिए, AI Prosumer का अन्वेषण करें। आवश्यक व्यवहार पास होने तक मूल रूट और साक्ष्य बनाए रखें।