AI ایجنٹ فریم ورک: ایک API کو متعدد ماڈلز سے منسلک کریں

AI ایجنٹ فریم ورک وہ جگہ ہیں جہاں ٹیمیں ایجنٹ کے رویے کی وضاحت کرتی ہیں: اہداف، ٹولز، میموری، ہینڈ آف، لوپس، اور وہ قواعد جب ایجنٹ کو رکنا چاہیے۔ لیکن ماڈل تک رسائی کی پرت ایک مختلف فیصلہ ہے۔ اگر ہر ایجنٹ فریم ورک براہ راست ایک فراہم کنندہ سے منسلک ہو، تو پروڈکٹ اس فراہم کنندہ کی قیمتوں، شرح حدود، بندش، ماڈل تبدیلیوں، اور اکاؤنٹ کے قواعد کو وراثت میں لے لیتا ہے۔.

یہی وجہ ہے کہ AI ایجنٹ فریم ورک بہتر کام کرتے ہیں جب فریم ورک ایک مستحکم ماڈل API کو کال کرتا ہے اور ماڈل پرت انتخاب، روٹنگ، فیل اوور، استعمال کی مرئیت، اور بلنگ کو سنبھالتی ہے۔ ShareAI اس پرت میں فٹ بیٹھتا ہے۔ ایجنٹ ایپلیکیشن ShareAI کے باہر رہتی ہے، جبکہ ShareAI ڈویلپرز کو 150+ ماڈلز، مارکیٹ پلیس سگنلز، پے-پر-ٹوکین استعمال، اور ایک بلڈر راستہ فراہم کرتا ہے جب ایجنٹ ٹریفک کو منافع بخش بنانا چاہیے۔.

کیوں AI ایجنٹ فریم ورک کو ماڈل تک رسائی کی پرت کی ضرورت ہے۔

ایک ایجنٹ فریم ورک کو آپ کے کام کی وضاحت میں مدد کرنی چاہیے۔ اسے ہر ماڈل کال، ٹول قدم، اور فیل بیک فیصلے کو ایک سخت کوڈڈ فراہم کنندہ راستے میں مجبور نہیں کرنا چاہیے۔.

ایک پروڈکشن ایجنٹ عام طور پر مختلف قسم کے ماڈل کالز رکھتا ہے۔ ایک منصوبہ ساز کو مضبوط استدلال کی ضرورت ہو سکتی ہے۔ ایک درجہ بندی کرنے والے کو کم قیمت اور کم تاخیر کی ضرورت ہو سکتی ہے۔ ایک خلاصہ کرنے والے کو سستا راستہ چاہیے۔ ایک صارف کے سامنے نظر آنے والے جواب کو اعلیٰ معیار کے ماڈل اور محفوظ فیل بیک کی ضرورت ہو سکتی ہے۔ ان تمام مراحل کو ایک ڈیفالٹ ماڈل کے طور پر لینا قیمت اور قابل اعتماد کو کنٹرول کرنا مشکل بنا دیتا ہے۔.

ShareAI ایپلیکیشن کو ایک مستحکم ماڈل پرت فراہم کرتا ہے۔ ڈویلپرز کر سکتے ہیں ماڈلز کا موازنہ کر سکتی ہیں, اختیارات کو ٹیسٹ کریں، اور ٹریفک کو ایک API کے ذریعے روٹ کریں بجائے اس کے کہ ہر فریم ورک یا ایجنٹ قدم کے لیے الگ فراہم کنندہ انضمام کو برقرار رکھیں۔.

بنیادی کنکشن پیٹرن۔

زیادہ تر انضمام ایک ہی پیٹرن کی پیروی کرتے ہیں:

• اپنے ایجنٹ فریم ورک کو ورک فلو منطق، ٹولز، اور اسٹیٹ کے لیے ذمہ دار رکھیں۔.
• فریم ورک کے ماڈل کلائنٹ کو ShareAI کے چیٹ کمپلیشنز اینڈ پوائنٹ پر پوائنٹ کریں۔.
• اپنے سرور سائیڈ ماحول سے ShareAI API کلید استعمال کریں۔.
• وہ ماڈل راستہ منتخب کریں جو ہر ایجنٹ قدم کے لیے موزوں ہو۔.
• لانچ سے پہلے صارف، ورک اسپیس، فیچر، یا ایجنٹ راستے کے ذریعے استعمال کو لاگ کریں۔.

یہ پیٹرن خاص طور پر مفید ہے جب آپ کا فریم ورک پہلے ہی OpenAI-مطابقت پذیر چیٹ ماڈل کلائنٹ کو سپورٹ کرتا ہے۔ LangChain دستاویز کرتا ہے کہ اس کا ChatOpenAI انضمام ایک قابل ترتیب بنیادی URL استعمال کر سکتا ہے، جو وہ پیٹرن ہے جسے بہت سی ٹیمیں پراکسی، گیٹ وے، یا مطابقت پذیر ماڈل API کے ذریعے روٹنگ کرتے وقت استعمال کرتی ہیں۔ لینگ چین چیٹ اوپن اے آئی دستاویزات.

مرحلہ 1: شیئر اے آئی درخواست کو ثابت کریں

کسی فریم ورک کی ترتیب کو تبدیل کرنے سے پہلے، ایک براہ راست سرور سائیڈ درخواست کریں۔ یہ آپ کو اسناد، ماڈل کے انتخاب، اور جواب کی شکل کے لیے ایک صاف بنیاد فراہم کرتا ہے۔.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

کلید کو سرور پر رکھیں۔ اسے براؤزر کوڈ، عوامی ریپوزٹریز، کلائنٹ سائیڈ پلگ انز، یا مشترکہ ایجنٹ ٹیمپلیٹس میں ظاہر نہ کریں۔ جب درخواست کامیاب ہو جائے، تو اسی اینڈ پوائنٹ اور کلید کو فریم ورک کی ترتیب میں منتقل کریں۔.

مرحلہ 2: فریم ورک کو شیئر اے آئی پر پوائنٹ کریں

کوڈ فرسٹ فریم ورکس کے لیے، پیٹرن عام طور پر ایک بیس یو آر ایل، ایک اے پی آئی کلید، اور ایک ماڈل نام ہوتا ہے۔ لینگ چین میں، یہ اس طرح نظر آ سکتا ہے:

import os

ان ٹولز کے لیے جو ماحول کے متغیرات استعمال کرتے ہیں، فریم ورک کے ماڈل اے پی آئی متغیرات کو شیئر اے آئی کلید اور بیس یو آر ایل میں تعیناتی ماحول میں سیٹ کریں، پھر ورکر یا ایجنٹ رن ٹائم کو دوبارہ شروع کریں۔.

SHAREAI_API_KEY="your-server-side-key"

بصری ٹولز کے لیے، ماڈل فراہم کنندہ کی ترتیبات یا کسٹم فراہم کنندہ کی ترتیبات تلاش کریں۔ مثال کے طور پر، ڈیفی کی دستاویزات اپنے ماڈل فراہم کنندہ سیٹ اپ میں سسٹم فراہم کنندگان کو کسٹم فراہم کنندگان سے الگ کرتی ہیں: ڈیفی ماڈل فراہم کنندہ دستاویزات. عین لیبلز پروڈکٹ کے لحاظ سے مختلف ہو سکتے ہیں، لیکن عملی ان پٹس عام طور پر ایک جیسے ہوتے ہیں: کلید، اینڈ پوائنٹ، ماڈل، اور استعمال کا دائرہ۔.

مرحلہ 3: ایجنٹ کے راستے کام کے لحاظ سے تقسیم کریں

ایک بار جب فریم ورک شیئر اے آئی کو کال کر سکتا ہے، تو عادتاً ہر مرحلے کو ایک ہی ماڈل پر بھیجنے سے گریز کریں۔ ایک بہتر سیٹ اپ کام کی قسم کے لحاظ سے ماڈل راستے تفویض کرتا ہے۔.

• منصوبہ بندی کا راستہ: تجزیہ، ٹول کے انتخاب، اور طویل استدلال کے لیے ایک مضبوط ماڈل استعمال کریں۔.
• تیز راستہ: درجہ بندی، دوبارہ لکھنے، نکالنے، یا فارمیٹنگ کے لیے کم قیمت ماڈل استعمال کریں۔.
• صارف کے سامنے نظر آنے والا راستہ: حتمی جواب کے لیے معیار، تاخیر، اور قابل اعتمادیت کا بہترین توازن رکھنے والا ماڈل استعمال کریں۔.
• بیک اپ راستہ: ایک بیک اپ ماڈل منتخب کریں جو ترجیحی راستہ خراب ہونے پر وہی کام مکمل کر سکے۔.

یہ وہ جگہ ہے جہاں ایک ون-API طریقہ کار مفید ہو جاتا ہے۔ فریم ورک کو ہر فراہم کنندہ کے فیصلے کے لیے الگ انضمام کی ضرورت نہیں ہوتی۔ ایپلیکیشن ایک مستحکم کال پیٹرن برقرار رکھ سکتی ہے جبکہ ٹیم قیمت، تاخیر، دستیابی، یا معیار میں تبدیلی کے ساتھ راستے تبدیل کرتی ہے۔.

اگر آپ پہلے ہی متعدد ایجنٹس چلا رہے ہیں، تو اسے اپنے آپریٹنگ ماڈل کا حصہ سمجھیں، نہ کہ صرف ایک کوڈ سیٹنگ۔ وسیع اے آئی ایجنٹ فلیٹ آپریشنز گائیڈ وضاحت کرتا ہے کہ ایک ایجنٹ کے کئی بننے کے بعد روٹنگ، قیمتوں کا تعین، اور ملکیت کیسے فٹ ہوتی ہے۔.

بلڈر مونیٹائزیشن کہاں فٹ ہوتی ہے

کچھ ایجنٹ ورک فلو اندرونی لاگت کے مراکز ہیں۔ دیگر صارف کے سامنے نظر آنے والی پروڈکٹ کی خصوصیات ہیں۔ اگر بلڈر کسی ایپ، پلگ ان، ورک فلو، چیٹ بوٹ، یا ایجنٹ پروڈکٹ کا مالک ہے جو ShareAI سے باہر ہے، تو وہ ایجنٹ ٹریفک استعمال پر مبنی کاروباری ماڈل کا حصہ بن سکتا ہے۔.

بلڈر اب بھی ShareAI سے باہر ایپلیکیشن بناتا اور اس کا مالک ہوتا ہے۔ ShareAI اس راستے پر چلنے والے AI انفرنس کے استعمال، صارف کی ادائیگی، مارجن یا سرچارج کنفیگریشن، اور پیدا شدہ آمدنی کی بنیاد پر ماہانہ بلڈر کی ادائیگی کو سنبھالتا ہے۔.

یہ ایجنٹ فریم ورک کے لیے اہم ہے کیونکہ ایجنٹس غیر مساوی استعمال پیدا کر سکتے ہیں۔ ایک صارف مہینے میں چند سپورٹ خلاصے چلا سکتا ہے۔ دوسرا ہزاروں تحقیق، ٹریاژ، اور ورک فلو کالز چلا سکتا ہے۔ ShareAI بلڈر مونیٹائزیشن کے ساتھ، بلڈر AI ٹریفک کو ShareAI کے ذریعے روٹ کر سکتا ہے، مارجن سیٹ کر سکتا ہے، اور زیادہ استعمال کرنے والے صارفین کو ان کے پیدا کردہ انفرنس کے لیے ادائیگی کرنے دے سکتا ہے۔.

جب آپ تجارتی پہلو کو نقشہ بنانے کے لیے تیار ہوں، تو کھولیں بلڈر کنسول. ۔ نفاذ کی منصوبہ بندی کے لیے، رکھیں ShareAI دستاویزات قریب رکھیں۔.

AI ایجنٹ فریم ورک کے لیے پروڈکشن چیک لسٹ

• ShareAI API کیز کو سرور سائیڈ پر رکھیں۔.
• لانچ سے پہلے ہر ایجنٹ کے راستے کا نام رکھیں۔.
• صارف، ورک اسپیس، فیچر، یا ایجنٹ کے ذریعے استعمال کو ٹریک کریں۔.
• اعلیٰ استدلال والے راستوں کو کم لاگت والے یوٹیلیٹی راستوں سے الگ کریں۔.
• فریم ورک کو کم از کم ایک بیک اپ ماڈل راستے کے ساتھ ٹیسٹ کریں۔.
• ماڈل، لیٹنسی، ٹوکن استعمال، غلطی کی وجہ، اور آخری راستہ لاگ کریں۔.
• فراہم کنندہ کیز کو پرامپٹس یا ایکسپورٹ کیے گئے ایجنٹ ٹیمپلیٹس کے اندر رکھنے سے گریز کریں۔.
• فیصلہ کریں کہ کون سے ایجنٹ کے مراحل صارف کے بل کے قابل ہیں اس سے پہلے کہ ٹریفک بڑھے۔.

سب سے چھوٹا مفید رول آؤٹ ایک ایجنٹ، ایک راستہ، ایک بیک اپ، اور ایک استعمال لیبل ہے۔ جب وہ راستہ قابل پیمائش ہو جائے، تو اگلے ایجنٹ مرحلے کے لیے پیٹرن کو وسعت دیں۔.

عمومی سوالات

AI ایجنٹ فریم ورک کیا ہیں؟

AI ایجنٹ فریم ورک ڈویلپرز کو ایجنٹ کے رویے، ٹولز، میموری، ورک فلو، حالت، اور عمل درآمد کے لوپس کی وضاحت کرنے میں مدد دیتے ہیں۔ یہ ماڈل رسائی کی تہہ سے مختلف ہیں جو فیصلہ کرتی ہے کہ کون سا ماڈل ہر درخواست کو پورا کرے گا۔.

AI ایجنٹ فریم ورک کو ایک API سے کیوں جوڑیں؟

ایک API ماڈل رسائی کو تبدیل کرنا آسان رکھتا ہے۔ ٹیمیں مختلف ایجنٹ مراحل کو مختلف ماڈلز پر راستہ دے سکتی ہیں، مارکیٹ پلیس سگنلز کا موازنہ کر سکتی ہیں، اور ایک فراہم کنندہ انضمام پر انحصار کم کر سکتی ہیں۔.

کیا ShareAI ایک AI ایجنٹ فریم ورک ہے؟

نہیں۔ ShareAI ایک AI مارکیٹ پلیس اور API ہے۔ یہ ایجنٹ ایپلیکیشن نہیں بناتا۔ یہ ایجنٹ فریم ورک کے پیچھے ماڈل رسائی، راستہ، استعمال، بلنگ، اور منیٹائزیشن کی تہہ کے طور پر کام کر سکتا ہے۔.

کیا میں ShareAI کو LangChain کے ساتھ استعمال کر سکتا ہوں؟

جی ہاں، جب LangChain انضمام کو ShareAI API کلید اور ایک معاون ماڈل نام کے ساتھ ShareAI کے چیٹ مکمل کرنے کے اختتام نقطہ کو کال کرنے کے لیے ترتیب دیا جاتا ہے۔ مکمل چین میں شامل کرنے سے پہلے براہ راست API درخواست کا تجربہ کریں۔.

کیا بصری ایجنٹ بنانے والے اس پیٹرن کو استعمال کر سکتے ہیں؟

اکثر، جی ہاں۔ اگر بصری ٹول ایک حسب ضرورت ماڈل فراہم کنندہ یا OpenAI-مطابقت پذیر اختتام نقطہ کی حمایت کرتا ہے، تو سیٹ اپ عام طور پر اختتام نقطہ، API کلید، ماڈل نام، اور جہاں ٹول فراہم کنندہ کی اسناد کو ذخیرہ کرتا ہے پر منحصر ہوتا ہے۔.

مختلف ایجنٹ مراحل کے لیے ماڈلز کا انتخاب کیسے کرنا چاہیے؟

کام سے شروع کریں۔ منصوبہ بندی اور اعلیٰ قدر کے جوابات کے لیے مضبوط ماڈلز استعمال کریں، سادہ درجہ بندی یا فارمیٹنگ کے لیے کم قیمت والے ماڈلز، اور ان مراحل کے لیے بیک اپ راستے جو خاموشی سے ناکام نہیں ہو سکتے۔.

ناکامی سے بچاؤ AI ایجنٹس کی کیسے مدد کرتا ہے؟

ناکامی سے بچاؤ ایجنٹ کو ایک اور ماڈل راستہ فراہم کرتا ہے جب ترجیحی راستہ دستیاب نہ ہو، سست ہو، بہت مہنگا ہو، یا درخواست کے لیے غیر موزوں ہو۔ یہ سب سے زیادہ مفید ہوتا ہے جب پیداوار کے ٹریفک بڑھنے سے پہلے اس کا تجربہ کیا جائے۔.

کیا بنانے والے ایجنٹ فریم ورک کے استعمال سے کمائی کر سکتے ہیں؟

جی ہاں، جب بنانے والا ShareAI کے باہر ایپ، ورک فلو، پلگ ان، چیٹ بوٹ، یا ایجنٹ پروڈکٹ کا مالک ہو اور اس کا AI انفرنس ٹریفک ShareAI کے ذریعے روٹ کرے۔ بنانے والا اس ٹریفک کے لیے مارجن یا اضافی چارج مقرر کر سکتا ہے۔.

روٹ کیے گئے ایجنٹ کے استعمال کی ادائیگی کون کرتا ہے؟

بنانے والے ماڈل میں، وہ صارف، ورک اسپیس، صارف، یا اکاؤنٹ جو روٹ کیے گئے AI استعمال کو پیدا کرتا ہے، ShareAI کو اس استعمال کے لیے ادائیگی کرتا ہے۔ ShareAI ماہانہ بنیاد پر بنانے والے کو اس کے مقرر کردہ مارجن یا اضافی چارج سے پیدا ہونے والی کمائی کے مطابق ادائیگی کرتا ہے۔.

کیا فراہم کنندگان اور بلڈرز ایک ہی طریقے سے کماتے ہیں؟

نہیں۔ بنانے والے اس ایپلیکیشن ٹریفک سے کماتے ہیں جو وہ ShareAI کے ذریعے روٹ کرتے ہیں۔ فراہم کنندگان منظور شدہ فراہم کنندہ پروگراموں کے ذریعے ShareAI نیٹ ورک میں اہل کمپیوٹ صلاحیت فراہم کر کے کماتے ہیں۔.

لانچ سے پہلے مجھے کیا ٹریک کرنا چاہیے؟

ایجنٹ کا نام، صارف یا ورک اسپیس، ماڈل راستہ، تاخیر، ٹوکن استعمال، غلطی کی شرح، بیک اپ واقعات، اور وہ فیچر یا صارف کی کارروائی جو کال کو متحرک کرتی ہے۔ یہ ڈیٹا بعد میں قیمتوں اور راستہ کے فیصلے کو بہت آسان بنا دیتا ہے۔.