एआय एजंट फ्रेमवर्क्स: एक API अनेक मॉडेल्सशी कनेक्ट करा

एआय एजंट फ्रेमवर्क्स ही ठिकाणे आहेत जिथे टीम्स एजंटचे वर्तन परिभाषित करतात: उद्दिष्टे, साधने, मेमरी, हस्तांतरण, लूप्स, आणि एजंटने कधी थांबावे याचे नियम. परंतु मॉडेल ऍक्सेस लेयर हा वेगळा निर्णय आहे. जर प्रत्येक एजंट फ्रेमवर्क थेट एका प्रदात्याशी जोडले गेले असेल, तर उत्पादन त्या प्रदात्याच्या किंमती, दर मर्यादा, अडचणी, मॉडेल बदल, आणि खाते नियम वारसाहक्काने घेतो.

म्हणूनच एआय एजंट फ्रेमवर्क्स चांगले कार्य करतात जेव्हा फ्रेमवर्क एक स्थिर मॉडेल API कॉल करते आणि मॉडेल लेयर निवड, रूटिंग, फेलओव्हर, वापर दृश्यमानता, आणि बिलिंग हाताळते. ShareAI त्या लेयरमध्ये बसते. एजंट ऍप्लिकेशन ShareAI च्या बाहेर राहते, तर ShareAI विकसकांना 150+ मॉडेल्ससाठी एक API, मार्केटप्लेस सिग्नल्स, पे-पर-टोकन वापर, आणि एजंट ट्रॅफिक मोनेटायझेबल होण्याच्या वेळी एक बिल्डर पथ देते.

एआय एजंट फ्रेमवर्क्सना मॉडेल ऍक्सेस लेयरची गरज का आहे

एक एजंट फ्रेमवर्क तुम्हाला काम परिभाषित करण्यात मदत करायला हवे. ते प्रत्येक मॉडेल कॉल, टूल स्टेप, आणि फॉलबॅक निर्णय एका हार्डकोडेड प्रदाता मार्गात जबरदस्तीने आणू नये.

एक उत्पादन एजंट सामान्यतः वेगवेगळ्या प्रकारच्या मॉडेल कॉल्सचा समावेश करतो. एक प्लॅनरला अधिक मजबूत तर्कशक्तीची गरज असू शकते. एक वर्गीकरण करणाऱ्याला कमी खर्च आणि कमी विलंबाची गरज असू शकते. एक सारांश करणाऱ्याला स्वस्त मार्गाची गरज असू शकते. ग्राहकांना दिसणाऱ्या उत्तराला उच्च दर्जाचे मॉडेल आणि सुरक्षित फॉलबॅकची गरज असू शकते. त्या सर्व पायऱ्यांना एक डिफॉल्ट मॉडेल म्हणून हाताळल्याने खर्च आणि विश्वासार्हता नियंत्रित करणे कठीण होते.

ShareAI ऍप्लिकेशनला एक स्थिर मॉडेल लेयर देते. विकसक करू शकतात मॉडेल्सची तुलना करू शकतात, पर्यायांची चाचणी करू शकतात, आणि एका API द्वारे ट्रॅफिक रूट करू शकतात, प्रत्येक फ्रेमवर्क किंवा एजंट स्टेपसाठी स्वतंत्र प्रदाता एकत्रीकरण राखण्याऐवजी.

मूलभूत कनेक्शन पॅटर्न

बहुतेक एकत्रीकरणे समान पॅटर्नचे अनुसरण करतात:

• तुमच्या एजंट फ्रेमवर्कला वर्कफ्लो लॉजिक, साधने, आणि स्थितीसाठी जबाबदार ठेवा.
• फ्रेमवर्कच्या मॉडेल क्लायंटला ShareAI च्या चॅट पूर्णता एंडपॉइंटकडे निर्देशित करा.
• तुमच्या सर्व्हर-साइड वातावरणातून ShareAI API की वापरा.
• प्रत्येक एजंट स्टेपसाठी योग्य मॉडेल रूट निवडा.
• लॉन्च करण्यापूर्वी वापरकर्ता, वर्कस्पेस, वैशिष्ट्य, किंवा एजंट रूटनुसार वापर लॉग करा.

हा पॅटर्न विशेषतः उपयुक्त आहे जेव्हा तुमचे फ्रेमवर्क आधीच OpenAI-सुसंगत चॅट मॉडेल क्लायंटला समर्थन देते. LangChain दस्तऐवज कसे त्याचे ChatOpenAI एकत्रीकरण एक कॉन्फिगर करण्यायोग्य बेस URL वापरू शकते हे दर्शवते, जो पॅटर्न अनेक टीम्स प्रॉक्सी, गेटवे, किंवा सुसंगत मॉडेल API द्वारे रूट करताना वापरतात. LangChain ChatOpenAI दस्तऐवज.

चरण 1: ShareAI विनंती सिद्ध करा

फ्रेमवर्क कॉन्फिग बदलण्यापूर्वी, एक थेट सर्व्हर-साइड विनंती करा. हे तुम्हाला क्रेडेन्शियल्स, मॉडेल निवड, आणि प्रतिसाद स्वरूपासाठी स्वच्छ आधाररेषा देते.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

की सर्व्हरवर ठेवा. ती ब्राउझर कोड, सार्वजनिक रिपॉझिटरीज, क्लायंट-साइड प्लगइन्स, किंवा सामायिक एजंट टेम्पलेट्समध्ये उघड करू नका. विनंती यशस्वी झाल्यावर, त्याच एंडपॉइंट आणि की फ्रेमवर्क कॉन्फिगरेशनमध्ये हलवा.

चरण 2: फ्रेमवर्कला ShareAI कडे निर्देशित करा

कोड-फर्स्ट फ्रेमवर्कसाठी, पॅटर्न सामान्यतः बेस URL, API की, आणि मॉडेल नाव असतो. LangChain मध्ये, ते असे दिसू शकते:

import os

जे टूल्स पर्यावरणीय व्हेरिएबल्स वापरतात, फ्रेमवर्कच्या मॉडेल API व्हेरिएबल्सना ShareAI की आणि बेस URL डिप्लॉयमेंट पर्यावरणात सेट करा, नंतर वर्कर किंवा एजंट रनटाइम रीस्टार्ट करा.

SHAREAI_API_KEY="your-server-side-key"

व्हिज्युअल टूल्ससाठी, मॉडेल प्रदाता सेटिंग्ज किंवा कस्टम प्रदाता सेटिंग्ज शोधा. उदाहरणार्थ, Dify च्या दस्तऐवजामध्ये, त्याच्या मॉडेल-प्रदाता सेटअपमध्ये सिस्टम प्रदात्यांना कस्टम प्रदात्यांपासून वेगळे केले आहे: Dify मॉडेल प्रदाता दस्तऐवज. अचूक लेबल्स उत्पादनानुसार वेगळे असतात, परंतु व्यावहारिक इनपुट्स सामान्यतः समान असतात: की, एंडपॉइंट, मॉडेल, आणि वापराचा व्याप्ती.

चरण 3: कार्यानुसार एजंट रूट्स विभाजित करा

फ्रेमवर्क ShareAI ला कॉल करू शकताच, सवयीने प्रत्येक चरण समान मॉडेलला पाठवणे टाळा. चांगली सेटअप नोकरी प्रकारानुसार मॉडेल रूट्स नियुक्त करते.

• मार्ग नियोजन: विघटन, साधन निवड, आणि दीर्घ विचारसरणीसाठी मजबूत मॉडेल वापरा.
• जलद मार्ग: वर्गीकरण, पुनर्लेखन, निष्कर्षण, किंवा स्वरूपनासाठी कमी खर्चाचे मॉडेल वापरा.
• ग्राहक-दृश्यमान मार्ग: अंतिम उत्तरासाठी गुणवत्ता, विलंबता, आणि विश्वसनीयतेचा सर्वोत्तम समतोल साधणारे मॉडेल वापरा.
• फॉलबॅक मार्ग: प्राधान्य दिलेला मार्ग खराब झाल्यास समान कार्य पूर्ण करू शकणारे बॅकअप मॉडेल निवडा.

येथे एक-API दृष्टिकोन उपयुक्त ठरतो. फ्रेमवर्कला प्रत्येक प्रदाता निर्णयासाठी स्वतंत्र एकत्रीकरणाची आवश्यकता नसते. अनुप्रयोग स्थिर कॉल पॅटर्न ठेवू शकतो, तर संघ किंमत, विलंबता, उपलब्धता, किंवा गुणवत्ता बदलल्यावर मार्ग बदलतो.

जर तुम्ही आधीच अनेक एजंट चालवत असाल, तर याला तुमच्या ऑपरेटिंग मॉडेलचा भाग म्हणून वागवा, केवळ कोड सेटिंग म्हणून नाही. विस्तृत एआय एजंट फ्लीट ऑपरेशन्स मार्गदर्शक स्पष्ट करतो की एक एजंट अनेक झाल्यावर मार्ग नियोजन, किंमत निर्धारण, आणि मालकी कशी बसते.

बिल्डर उत्पन्नाचा भाग कुठे बसतो

काही एजंट वर्कफ्लो अंतर्गत खर्च केंद्रे आहेत. इतर ग्राहक-सामोरे उत्पादन वैशिष्ट्ये आहेत. जर बिल्डरने ShareAI बाहेर अॅप, प्लगइन, वर्कफ्लो, चॅटबॉट, किंवा एजंट उत्पादन मालकी घेतली असेल, तर त्या एजंट ट्रॅफिकचा वापर-आधारित व्यवसाय मॉडेलचा भाग होऊ शकतो.

बिल्डर अजूनही ShareAI बाहेर अनुप्रयोग तयार करतो आणि मालकी ठेवतो. ShareAI रूटेड AI अनुमान वापर, त्या रूटेड वापरासाठी ग्राहक पेमेंट, मार्जिन किंवा अधिभार कॉन्फिगरेशन, आणि उत्पन्नावर आधारित मासिक बिल्डर पेआउट हाताळतो.

एजंट फ्रेमवर्कसाठी हे महत्त्वाचे आहे कारण एजंट असमान वापर तयार करू शकतात. एक ग्राहक दर महिन्याला काही समर्थन सारांश चालवू शकतो. दुसरा हजारो संशोधन, प्राथमिकता, आणि वर्कफ्लो कॉल चालवू शकतो. ShareAI बिल्डर उत्पन्नासह, बिल्डर AI ट्रॅफिक ShareAI द्वारे रूट करू शकतो, मार्जिन सेट करू शकतो, आणि वापर-भारी ग्राहकांना त्यांनी तयार केलेल्या अनुमानासाठी पैसे देऊ शकतो.

जेव्हा तुम्ही व्यावसायिक बाजू मॅप करण्यासाठी तयार असाल, तेव्हा उघडा बिल्डर कन्सोल. अंमलबजावणी नियोजनासाठी, ठेवा ShareAI दस्तऐवजीकरण जवळ ठेवा.

AI एजंट फ्रेमवर्कसाठी उत्पादन चेकलिस्ट

• ShareAI API कीज सर्व्हर-साइड ठेवा.
• प्रक्षेपणापूर्वी प्रत्येक एजंट मार्गाचे नाव ठेवा.
• ग्राहक, कार्यक्षेत्र, वैशिष्ट्य किंवा एजंटद्वारे वापर ट्रॅक करा.
• उच्च-तर्क मार्गांना कमी-खर्च उपयुक्तता मार्गांपासून वेगळे करा.
• किमान एक बॅकअप मॉडेल मार्गासह फ्रेमवर्कची चाचणी करा.
• मॉडेल, विलंब, टोकन वापर, त्रुटीचे कारण आणि अंतिम मार्ग लॉग करा.
• प्रदाता कीज प्रॉम्प्ट्स किंवा निर्यात केलेल्या एजंट टेम्पलेट्समध्ये ठेवणे टाळा.
• वाहतूक वाढण्यापूर्वी कोणते एजंट चरण ग्राहक-बिल करण्यायोग्य आहेत ते ठरवा.

सर्वात लहान उपयुक्त रोलआउट म्हणजे एक एजंट, एक मार्ग, एक बॅकअप आणि एक वापर लेबल. एकदा तो मार्ग मोजण्यायोग्य झाल्यावर, पुढील एजंट चरणासाठी नमुना विस्तृत करा.

वारंवार विचारले जाणारे प्रश्न

एआय एजंट फ्रेमवर्क्स काय आहेत?

एआय एजंट फ्रेमवर्क्स विकसकांना एजंटचे वर्तन, साधने, मेमरी, कार्यप्रवाह, स्थिती आणि अंमलबजावणी लूप्स परिभाषित करण्यात मदत करतात. ते मॉडेल प्रवेश स्तरापेक्षा वेगळे आहेत जे ठरवते की प्रत्येक विनंतीसाठी कोणते मॉडेल सेवा देते.

एआय एजंट फ्रेमवर्क्स एका API शी का जोडायचे?

एक API मॉडेल प्रवेश बदलणे सोपे ठेवते. संघ वेगवेगळ्या एजंट चरणांना वेगवेगळ्या मॉडेल्सकडे मार्गक्रमित करू शकतात, मार्केटप्लेस सिग्नल्सची तुलना करू शकतात आणि एका प्रदाता एकत्रीकरणावर अवलंबित्व कमी करू शकतात.

ShareAI एक एआय एजंट फ्रेमवर्क आहे का?

नाही. ShareAI एक एआय मार्केटप्लेस आणि API आहे. हे एजंट अनुप्रयोग तयार करत नाही. हे मॉडेल प्रवेश, रूटिंग, वापर, बिलिंग आणि मनीटायझेशन स्तर म्हणून एजंट फ्रेमवर्कच्या मागे बसू शकते.

मी ShareAI LangChain सह वापरू शकतो का?

होय, जेव्हा LangChain एकत्रीकरण ShareAI च्या चॅट पूर्णता एंडपॉईंटला ShareAI API की आणि समर्थित मॉडेल नावासह कॉल करण्यासाठी कॉन्फिगर केले जाते. पूर्ण साखळीत वायरिंग करण्यापूर्वी थेट API विनंतीची चाचणी घ्या.

व्हिज्युअल एजंट बिल्डर्स हा पॅटर्न वापरू शकतात का?

अनेकदा, होय. जर व्हिज्युअल टूल कस्टम मॉडेल प्रदाता किंवा OpenAI-सुसंगत एंडपॉईंटला समर्थन देत असेल, तर सेटअप सामान्यतः एंडपॉईंट, API की, मॉडेल नाव, आणि टूल प्रदाता क्रेडेन्शियल्स कुठे साठवते यावर अवलंबून असतो.

वेगवेगळ्या एजंट स्टेप्ससाठी मॉडेल्स कसे निवडावे?

कामापासून सुरुवात करा. नियोजन आणि उच्च-मूल्य प्रतिसादांसाठी मजबूत मॉडेल्स वापरा, साध्या वर्गीकरण किंवा स्वरूपनासाठी कमी खर्चाचे मॉडेल्स वापरा, आणि जे स्टेप्स शांतपणे अयशस्वी होऊ शकत नाहीत त्यासाठी बॅकअप मार्ग वापरा.

फेलओव्हर AI एजंट्सला कसा मदत करतो?

फेलओव्हर एजंटला दुसरा मॉडेल मार्ग देतो जेव्हा प्राधान्य मार्ग अनुपलब्ध, धीमा, खूप महाग, किंवा विनंतीसाठी अनुपयुक्त असतो. उत्पादन ट्रॅफिक वाढण्यापूर्वी चाचणी घेतल्यावर हे सर्वात उपयुक्त ठरते.

बिल्डर्स एजंट फ्रेमवर्क वापराचे पैसे कमवू शकतात का?

होय, जेव्हा बिल्डर ShareAI च्या बाहेर अॅप, वर्कफ्लो, प्लगइन, चॅटबॉट, किंवा एजंट उत्पादनाचा मालक असतो आणि त्याचे AI इनफरन्स ट्रॅफिक ShareAI द्वारे रूट करतो. बिल्डर त्या ट्रॅफिकसाठी मार्जिन किंवा अधिभार सेट करू शकतो.

रूटेड एजंट वापरासाठी कोण पैसे देतो?

बिल्डर मॉडेलमध्ये, ग्राहक, वर्कस्पेस, वापरकर्ता, किंवा खाते जे रूटेड AI वापर निर्माण करते ते त्या वापरासाठी ShareAI ला पैसे देते. ShareAI बिल्डरला कॉन्फिगर केलेल्या मार्जिन किंवा अधिभारातून निर्माण झालेल्या कमाईच्या आधारे मासिक पैसे देते.

प्रदाता आणि बिल्डर्स एकाच प्रकारे कमाई करतात का?

नाही. बिल्डर्स ShareAI द्वारे रूट केलेल्या अॅप्लिकेशन ट्रॅफिकमधून कमाई करतात. प्रदाते मंजूर प्रदाता कार्यक्रमांद्वारे ShareAI नेटवर्कला पात्र संगणन क्षमता योगदान देऊन कमाई करतात.

लॉन्चपूर्वी मला काय ट्रॅक करावे?

एजंट नाव, वापरकर्ता किंवा वर्कस्पेस, मॉडेल मार्ग, विलंब, टोकन वापर, त्रुटी दर, फॉलबॅक इव्हेंट्स, आणि कॉल ट्रिगर करणारी वैशिष्ट्य किंवा ग्राहक कृती ट्रॅक करा. त्या डेटामुळे नंतर किंमत आणि रूटिंग निर्णय खूप सोपे होतात.