فراہم کنندگان کو ترتیب دیں اور فال بیک کو کنٹرول کریں
ShareAI کی قیمت، تاخیر اور تھروپٹ کی درجہ بندی کو سمجھیں، ترتیب شدہ فراہم کنندگان، دستیاب نہ ہونے والی پیمائشیں اور محفوظ متبادل حدود۔
اس صفحے پر
قیمت#
قیمت کی درجہ بندی قابل اطلاق ان پٹ-ٹیئر ریٹ اور بنیادی آؤٹ پٹ ریٹ کا موازنہ کرتی ہے۔ یہ کل درخواست کے بل کی پیش گوئی نہیں ہے۔ منتخب کردہ فراہم کنندہ اور آپ کے متوقع ورک لوڈ کے لیے ان پٹ، آؤٹ پٹ اور کیش قیمتوں کا جائزہ لیں۔
تاخیر اور تھروپٹ#
تاخیر مکمل شدہ درخواست کے مشاہدہ شدہ وقت کو استعمال کرتی ہے، نہ کہ پہلے ٹوکن کے وقت کو۔ تھروپٹ مشاہدہ شدہ آؤٹ پٹ ٹوکنز فی گزرے ہوئے سیکنڈ کو استعمال کرتا ہے۔ حالیہ مشاہدات پانچ منٹ کی ونڈو کا احاطہ کرتے ہیں۔ یہ پیمائشیں روٹنگ کی رہنمائی کرتی ہیں؛ یہ جواب کے وقت یا صلاحیت کی ضمانت نہیں دیتیں۔
جن فراہم کنندگان کے پاس مطلوبہ قیمت یا کارکردگی کی مشاہدہ نہیں ہے، وہ کسی بھی سمت میں ماپے گئے فراہم کنندگان کے بعد درجہ بندی کرتے ہیں۔ مستحکم شناخت کنندگان ٹائی کو توڑتے ہیں۔
ترتیب دینے سے پہلے آرڈر کریں#
ایک واضح فراہم کنندہ آرڈر ترتیب پر فوقیت رکھتا ہے۔ باقی اہل انتخاب کے اندر، منتخب کردہ ترتیب درجہ بندی کا تعین کرتی ہے۔ نظرانداز کیے گئے فراہم کنندگان، صرف باہر کے فراہم کنندگان، غیر معاون آپریشنز اور کلیدی اجازتوں کے ذریعے خارج کیے گئے فراہم کنندگان غیر اہل رہتے ہیں۔
| پالیسی | اہل انتخاب |
|---|---|
allow_fallbacks: true | دیگر اہل فراہم کنندگان کو ہر سخت پابندی کے اندر غور کیا جا سکتا ہے۔ |
allow_fallbacks: false کے ساتھ order | صرف وہ فراہم کنندگان جو واضح طور پر ترتیب میں درج ہیں۔ |
allow_fallbacks: false بغیر order | صرف پہلے درجے کا فراہم کنندہ۔ |
متبادل وہی ماڈل برقرار رکھتا ہے#
فراہم کنندہ کا متبادل مخصوص درخواست کردہ ماڈل کے لیے اہل انفراسٹرکچر کو تبدیل کرتا ہے۔ یہ کسی دوسرے ماڈل ٹیگ پر سوئچ نہیں کرتا۔ ShareAI فراہم کنندہ کے اندر کیے گئے کسی بھی اپ اسٹریم وینڈر کے انتخاب کو عوامی تخلیق کار کی شناخت اور عمل درآمد فراہم کنندہ کی پالیسی سے الگ رکھا جاتا ہے۔
منقطع درخواستوں کو سنبھالیں#
روٹنگ کامیاب بھیجنے، غیر یقینی جواب یا جزوی آؤٹ پٹ کے بعد خودکار طور پر دوبارہ کوشش نہیں کرتی۔ یہ کام اور چارجز کو دہرانے سے بچاتی ہے۔ جزوی آؤٹ پٹ کو محفوظ کریں اور ایپلیکیشن کو فیصلہ کرنے دیں کہ آیا نئی درخواست شروع کرنی ہے۔ لامحدود دوبارہ کوشش کے لوپ سے گریز کریں۔
مثالیں#
JSON
{
"provider": {
"sort": {
"by": "latency",
"direction": "asc"
},
"allow_fallbacks": true
}
}
زیادہ سے زیادہ تھروپٹ کو ترجیح دینے کے لیے استعمال کریں {"by":"throughput","direction":"desc"}۔ کسی بھی سمت کو صرف اس وقت پلٹائیں جب وہ ترتیب آپ کے مطلوبہ ٹیسٹ یا ورک لوڈ سے میل کھاتی ہو۔
آخری اپ ڈیٹ ستمبر 16, 2026