एआई एजेंट फ्रेमवर्क्स: एक एपीआई को कई मॉडलों से जोड़ें

एआई एजेंट फ्रेमवर्क वह जगह हैं जहां टीमें एजेंट व्यवहार को परिभाषित करती हैं: लक्ष्य, उपकरण, मेमोरी, हैंडऑफ, लूप्स, और नियम जब एजेंट को रुकना चाहिए। लेकिन मॉडल एक्सेस लेयर एक अलग निर्णय है। यदि हर एजेंट फ्रेमवर्क सीधे एक प्रदाता से जुड़ा होता है, तो उत्पाद उस प्रदाता की कीमत, दर सीमाएं, आउटेज, मॉडल परिवर्तन, और खाता नियमों को अपनाता है।.

यही कारण है कि एआई एजेंट फ्रेमवर्क बेहतर काम करते हैं जब फ्रेमवर्क एक स्थिर मॉडल एपीआई को कॉल करता है और मॉडल लेयर विकल्प, रूटिंग, फेलओवर, उपयोग दृश्यता, और बिलिंग को संभालता है। ShareAI उस लेयर में फिट बैठता है। एजेंट एप्लिकेशन ShareAI के बाहर रहता है, जबकि ShareAI डेवलपर्स को 150+ मॉडल, मार्केटप्लेस संकेत, प्रति टोकन उपयोग, और एक बिल्डर पथ प्रदान करता है जब एजेंट ट्रैफिक को मुद्रीकरण योग्य बनाना चाहिए।.

क्यों एआई एजेंट फ्रेमवर्क को एक मॉडल एक्सेस लेयर की आवश्यकता है

एक एजेंट फ्रेमवर्क को आपके काम को परिभाषित करने में मदद करनी चाहिए। इसे हर मॉडल कॉल, टूल स्टेप, और फॉलबैक निर्णय को एक हार्डकोडेड प्रदाता पथ में मजबूर नहीं करना चाहिए।.

एक प्रोडक्शन एजेंट में आमतौर पर विभिन्न प्रकार के मॉडल कॉल होते हैं। एक प्लानर को मजबूत तर्क की आवश्यकता हो सकती है। एक क्लासिफायर को कम लागत और कम विलंबता की आवश्यकता हो सकती है। एक समरीज़र को सस्ता मार्ग चाहिए। एक ग्राहक-दृश्यमान उत्तर को उच्च गुणवत्ता वाले मॉडल और सुरक्षित फॉलबैक की आवश्यकता हो सकती है। इन सभी चरणों को एक डिफ़ॉल्ट मॉडल के रूप में मानना लागत और विश्वसनीयता को नियंत्रित करना कठिन बनाता है।.

ShareAI एप्लिकेशन को एक स्थिर मॉडल लेयर प्रदान करता है। डेवलपर्स मॉडल्स की तुलना कर सकती हैं, विकल्पों का परीक्षण कर सकते हैं और एक एपीआई के माध्यम से ट्रैफिक को रूट कर सकते हैं बजाय हर फ्रेमवर्क या एजेंट चरण के लिए अलग-अलग प्रदाता इंटीग्रेशन बनाए रखने के।.

बेसिक कनेक्शन पैटर्न

अधिकांश इंटीग्रेशन एक ही पैटर्न का पालन करते हैं:

• अपने एजेंट फ्रेमवर्क को वर्कफ़्लो लॉजिक, टूल्स, और स्टेट के लिए जिम्मेदार रखें।.
• फ्रेमवर्क के मॉडल क्लाइंट को ShareAI के चैट कंप्लीशन एंडपॉइंट पर पॉइंट करें।.
• अपने सर्वर-साइड वातावरण से ShareAI एपीआई कुंजी का उपयोग करें।.
• प्रत्येक एजेंट चरण के लिए उपयुक्त मॉडल रूट चुनें।.
• लॉन्च से पहले उपयोग को उपयोगकर्ता, वर्कस्पेस, फीचर, या एजेंट रूट द्वारा लॉग करें।.

यह पैटर्न विशेष रूप से उपयोगी है जब आपका फ्रेमवर्क पहले से ही OpenAI-संगत चैट मॉडल क्लाइंट का समर्थन करता है। LangChain दस्तावेज़ करता है कि इसका ChatOpenAI इंटीग्रेशन एक कॉन्फ़िगर करने योग्य बेस URL का उपयोग कैसे कर सकता है, जो पैटर्न कई टीमें प्रॉक्सी, गेटवे, या संगत मॉडल एपीआई के माध्यम से रूटिंग करते समय उपयोग करती हैं। LangChain ChatOpenAI दस्तावेज़ीकरण.

चरण 1: ShareAI अनुरोध को प्रमाणित करें

किसी फ्रेमवर्क कॉन्फ़िगरेशन को बदलने से पहले, एक सीधा सर्वर-साइड अनुरोध करें। यह आपको क्रेडेंशियल्स, मॉडल चयन, और प्रतिक्रिया आकार के लिए एक साफ़ आधाररेखा देता है।.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

कुंजी को सर्वर पर रखें। इसे ब्राउज़र कोड, सार्वजनिक रिपॉजिटरी, क्लाइंट-साइड प्लगइन्स, या साझा एजेंट टेम्पलेट्स में उजागर न करें। जब अनुरोध सफल हो जाए, तो उसी एंडपॉइंट और कुंजी को फ्रेमवर्क कॉन्फ़िगरेशन में ले जाएं।.

चरण 2: फ्रेमवर्क को ShareAI पर इंगित करें

कोड-फर्स्ट फ्रेमवर्क्स के लिए, पैटर्न आमतौर पर एक बेस URL, एक API कुंजी, और एक मॉडल नाम होता है। LangChain में, यह इस प्रकार दिख सकता है:

import os

उन टूल्स के लिए जो पर्यावरणीय वेरिएबल्स का उपयोग करते हैं, फ्रेमवर्क के मॉडल API वेरिएबल्स को ShareAI कुंजी और बेस URL पर परिनियोजन पर्यावरण में सेट करें, फिर वर्कर या एजेंट रनटाइम को पुनः प्रारंभ करें।.

SHAREAI_API_KEY="your-server-side-key"

विज़ुअल टूल्स के लिए, मॉडल प्रोवाइडर सेटिंग्स या कस्टम प्रोवाइडर सेटिंग्स देखें। उदाहरण के लिए, Dify का दस्तावेज़ीकरण सिस्टम प्रोवाइडर्स को कस्टम प्रोवाइडर्स से अलग करता है अपने मॉडल-प्रोवाइडर सेटअप में: Dify मॉडल प्रोवाइडर दस्तावेज़ीकरण. सटीक लेबल उत्पाद के अनुसार भिन्न होते हैं, लेकिन व्यावहारिक इनपुट आमतौर पर समान होते हैं: कुंजी, एंडपॉइंट, मॉडल, और उपयोग का दायरा।.

चरण 3: कार्य के अनुसार एजेंट रूट्स को विभाजित करें

एक बार जब फ्रेमवर्क ShareAI को कॉल कर सकता है, तो आदतन हर चरण को एक ही मॉडल पर भेजने से बचें। एक बेहतर सेटअप नौकरी के प्रकार के अनुसार मॉडल रूट्स को असाइन करता है।.

• मार्ग योजना: विघटन, उपकरण चयन और लंबे तर्क के लिए एक मजबूत मॉडल का उपयोग करें।.
• तेज़ मार्ग: वर्गीकरण, पुनर्लेखन, निष्कर्षण, या स्वरूपण के लिए कम लागत वाले मॉडल का उपयोग करें।.
• ग्राहक-दृश्यमान मार्ग: अंतिम उत्तर के लिए गुणवत्ता, विलंबता और विश्वसनीयता का सबसे अच्छा संतुलन प्रदान करने वाले मॉडल का उपयोग करें।.
• बैकअप मार्ग: एक बैकअप मॉडल चुनें जो प्राथमिक मार्ग के खराब होने पर वही कार्य पूरा कर सके।.

यही वह जगह है जहां एक-एपीआई दृष्टिकोण उपयोगी हो जाता है। फ्रेमवर्क को प्रत्येक प्रदाता निर्णय के लिए अलग-अलग एकीकरण की आवश्यकता नहीं होती। टीम द्वारा मूल्य, विलंबता, उपलब्धता, या गुणवत्ता में बदलाव के साथ एप्लिकेशन एक स्थिर कॉल पैटर्न बनाए रख सकता है।.

यदि आप पहले से ही कई एजेंट चला रहे हैं, तो इसे केवल कोड सेटिंग के बजाय अपने ऑपरेटिंग मॉडल का हिस्सा मानें। व्यापक एआई एजेंट बेड़े संचालन मार्गदर्शिका बताती है कि एक एजेंट के कई बनने पर रूटिंग, मूल्य निर्धारण और स्वामित्व कैसे फिट होते हैं।.

बिल्डर मुद्रीकरण कहाँ फिट होता है

कुछ एजेंट वर्कफ़्लो आंतरिक लागत केंद्र हैं। अन्य ग्राहक-सामना करने वाली उत्पाद सुविधाएँ हैं। यदि बिल्डर ShareAI के बाहर किसी ऐप, प्लगइन, वर्कफ़्लो, चैटबॉट, या एजेंट उत्पाद का मालिक है, तो वह एजेंट ट्रैफ़िक उपयोग-आधारित व्यवसाय मॉडल का हिस्सा बन सकता है।.

बिल्डर अभी भी ShareAI के बाहर एप्लिकेशन बनाता और उसका मालिक होता है। ShareAI उस रूटेड AI अनुमान उपयोग, उस रूटेड उपयोग के लिए ग्राहक भुगतान, मार्जिन या अधिभार कॉन्फ़िगरेशन, और उत्पन्न आय के आधार पर मासिक बिल्डर भुगतान को संभालता है।.

यह एजेंट फ्रेमवर्क के लिए महत्वपूर्ण है क्योंकि एजेंट असमान उपयोग उत्पन्न कर सकते हैं। एक ग्राहक प्रति माह कुछ समर्थन सारांश चला सकता है। दूसरा हजारों शोध, ट्राइएज, और वर्कफ़्लो कॉल चला सकता है। ShareAI बिल्डर मुद्रीकरण के साथ, बिल्डर AI ट्रैफ़िक को ShareAI के माध्यम से रूट कर सकता है, एक मार्जिन सेट कर सकता है, और उपयोग-भारी ग्राहकों को उनके द्वारा उत्पन्न अनुमान के लिए भुगतान करने दे सकता है।.

जब आप व्यावसायिक पक्ष को मैप करने के लिए तैयार हों, तो खोलें बिल्डर कंसोल. । कार्यान्वयन योजना के लिए, रखें ShareAI दस्तावेज़ीकरण पास रखें।.

AI एजेंट फ्रेमवर्क के लिए उत्पादन चेकलिस्ट

• ShareAI API कुंजियों को सर्वर-साइड रखें।.
• लॉन्च से पहले प्रत्येक एजेंट मार्ग का नाम दें।.
• ग्राहक, कार्यक्षेत्र, फीचर, या एजेंट द्वारा उपयोग को ट्रैक करें।.
• उच्च-तर्क मार्गों को कम-लागत उपयोगिता मार्गों से अलग करें।.
• कम से कम एक बैकअप मॉडल पथ के साथ फ्रेमवर्क का परीक्षण करें।.
• मॉडल, विलंबता, टोकन उपयोग, त्रुटि कारण, और अंतिम मार्ग को लॉग करें।.
• प्रदाता कुंजियों को प्रॉम्प्ट्स या निर्यातित एजेंट टेम्पलेट्स के अंदर रखने से बचें।.
• तय करें कि कौन से एजेंट चरण ग्राहक-बिल योग्य हैं, इससे पहले कि ट्रैफिक बढ़े।.

सबसे छोटा उपयोगी रोलआउट एक एजेंट, एक मार्ग, एक बैकअप, और एक उपयोग लेबल है। एक बार जब वह पथ मापने योग्य हो जाए, तो पैटर्न को अगले एजेंट चरण तक विस्तारित करें।.

अक्सर पूछे जाने वाले प्रश्न (FAQ)

एआई एजेंट फ्रेमवर्क क्या हैं?

एआई एजेंट फ्रेमवर्क डेवलपर्स को एजेंट व्यवहार, उपकरण, मेमोरी, वर्कफ़्लो, स्थिति, और निष्पादन लूप को परिभाषित करने में मदद करते हैं। वे मॉडल एक्सेस लेयर से अलग हैं जो तय करता है कि प्रत्येक अनुरोध को कौन सा मॉडल सेवा प्रदान करता है।.

एआई एजेंट फ्रेमवर्क को एक API से क्यों जोड़ें?

एक API मॉडल एक्सेस को बदलना आसान बनाता है। टीमें विभिन्न एजेंट चरणों को विभिन्न मॉडलों पर रूट कर सकती हैं, मार्केटप्लेस संकेतों की तुलना कर सकती हैं, और एक प्रदाता एकीकरण पर निर्भरता को कम कर सकती हैं।.

क्या ShareAI एक एआई एजेंट फ्रेमवर्क है?

नहीं। ShareAI एक एआई मार्केटप्लेस और API है। यह एजेंट एप्लिकेशन नहीं बनाता है। यह एजेंट फ्रेमवर्क के पीछे मॉडल एक्सेस, रूटिंग, उपयोग, बिलिंग, और मुद्रीकरण लेयर के रूप में काम कर सकता है।.

क्या मैं ShareAI को LangChain के साथ उपयोग कर सकता हूँ?

हाँ, जब LangChain इंटीग्रेशन को ShareAI के चैट कंप्लीशन एंडपॉइंट को ShareAI API कुंजी और समर्थित मॉडल नाम के साथ कॉल करने के लिए कॉन्फ़िगर किया गया हो। इसे पूरी चेन में वायर करने से पहले डायरेक्ट API अनुरोध का परीक्षण करें।.

क्या विजुअल एजेंट बिल्डर्स इस पैटर्न का उपयोग कर सकते हैं?

अक्सर, हाँ। यदि विजुअल टूल एक कस्टम मॉडल प्रदाता या OpenAI-संगत एंडपॉइंट का समर्थन करता है, तो सेटअप आमतौर पर एंडपॉइंट, API कुंजी, मॉडल नाम, और जहां टूल प्रदाता क्रेडेंशियल्स संग्रहीत करता है, तक सीमित होता है।.

मुझे विभिन्न एजेंट चरणों के लिए मॉडल कैसे चुनने चाहिए?

काम से शुरू करें। योजना और उच्च-मूल्य प्रतिक्रियाओं के लिए मजबूत मॉडल का उपयोग करें, सरल वर्गीकरण या स्वरूपण के लिए कम लागत वाले मॉडल का उपयोग करें, और उन चरणों के लिए बैकअप मार्ग रखें जो चुपचाप विफल नहीं हो सकते।.

फेलओवर AI एजेंटों की कैसे मदद करता है?

फेलओवर एजेंट को एक और मॉडल पथ देता है जब पसंदीदा मार्ग अनुपलब्ध, धीमा, बहुत महंगा, या अनुरोध के लिए अनुपयुक्त हो। यह तब सबसे उपयोगी होता है जब उत्पादन ट्रैफ़िक बढ़ने से पहले इसका परीक्षण किया गया हो।.

क्या बिल्डर्स एजेंट फ्रेमवर्क उपयोग का मुद्रीकरण कर सकते हैं?

हाँ, जब बिल्डर ShareAI के बाहर ऐप, वर्कफ़्लो, प्लगइन, चैटबॉट, या एजेंट उत्पाद का मालिक होता है और इसका AI इंफेरेंस ट्रैफ़िक ShareAI के माध्यम से रूट करता है। बिल्डर उस ट्रैफ़िक के लिए एक मार्जिन या अधिभार सेट कर सकता है।.

रूटेड एजेंट उपयोग के लिए कौन भुगतान करता है?

बिल्डर मॉडल में, ग्राहक, वर्कस्पेस, उपयोगकर्ता, या खाता जो रूटेड AI उपयोग उत्पन्न करता है, उस उपयोग के लिए ShareAI को भुगतान करता है। ShareAI बिल्डर को कॉन्फ़िगर किए गए मार्जिन या अधिभार से उत्पन्न आय के आधार पर मासिक भुगतान करता है।.

क्या प्रदाता और निर्माता एक ही तरीके से कमाते हैं?

नहीं। बिल्डर्स उस एप्लिकेशन ट्रैफ़िक से कमाते हैं जिसे वे ShareAI के माध्यम से रूट करते हैं। प्रदाता अनुमोदित प्रदाता कार्यक्रमों के माध्यम से ShareAI नेटवर्क में पात्र कंप्यूट क्षमता का योगदान करके कमाते हैं।.

लॉन्च से पहले मुझे क्या ट्रैक करना चाहिए?

एजेंट का नाम, उपयोगकर्ता या वर्कस्पेस, मॉडल मार्ग, विलंबता, टोकन उपयोग, त्रुटि दर, फॉलबैक घटनाएँ, और वह फीचर या ग्राहक क्रिया जो कॉल को ट्रिगर करती है, को ट्रैक करें। यह डेटा बाद में मूल्य निर्धारण और रूटिंग निर्णयों को बहुत आसान बनाता है।.