ప్రొవైడర్లను సార్టు చేయండి మరియు ఫాల్బ్యాక్‌ను నియంత్రించండి

ShareAI ధర, లేటెన్సీ మరియు త్రూపుట్ ర్యాంకింగ్, ఆర్డర్ చేసిన ప్రొవైడర్లు, అందుబాటులో లేని కొలతలు మరియు సురక్షిత ఫాల్బ్యాక్ పరిమితులను అర్థం చేసుకోండి.

Markdown గా వీక్షించండి

ఈ పేజీలో

ధర#

ధర ర్యాంకింగ్ వర్తించే ఇన్‌పుట్-టియర్ రేటు ప్లస్ బేస్ అవుట్‌పుట్ రేటును పోల్చుతుంది. ఇది మొత్తం అభ్యర్థన బిల్లును అంచనా వేయదు. ఎంపిక చేసిన ప్రొవైడర్ మరియు మీ అంచనా వర్క్‌లోడ్ కోసం ఇన్‌పుట్, అవుట్‌పుట్ మరియు క్యాష్ ధరలను సమీక్షించండి.

లేటెన్సీ మరియు త్రూపుట్#

లేటెన్సీ పూర్తయిన అభ్యర్థనల గడిచిన సమయాన్ని ఉపయోగిస్తుంది, మొదటి టోకెన్ సమయాన్ని కాదు. త్రూపుట్ గడిచిన సెకనుకు అవుట్‌పుట్ టోకెన్లను ఉపయోగిస్తుంది. తాజా పరిశీలనలు ఐదు నిమిషాల విండోను కవర్ చేస్తాయి. ఈ కొలతలు రూటింగ్‌కు మార్గనిర్దేశం చేస్తాయి; ఇవి ప్రతిస్పందన సమయం లేదా సామర్థ్యాన్ని హామీ ఇవ్వవు.

అవసరమైన ధర లేదా పనితీరు పరిశీలన లేని ప్రొవైడర్లు కొలిచిన ప్రొవైడర్ల తర్వాత ఏదైనా దిశలో ర్యాంక్ చేస్తారు. స్థిరమైన గుర్తింపులు టైలను బ్రేక్ చేస్తాయి.

సార్టింగ్ ముందు ఆర్డర్#

స్పష్టమైన ప్రొవైడర్ ఆర్డర్ సార్టింగ్‌కు ప్రాధాన్యత ఇస్తుంది. మిగిలిన అర్హత ఎంపికలలో, ఎంపిక చేసిన సార్ట్ ర్యాంకింగ్‌ను నిర్ణయిస్తుంది. నిర్లక్ష్యం చేసిన ప్రొవైడర్లు, బయట ఉన్న ప్రొవైడర్లు మాత్రమే, మద్దతు లేని ఆపరేషన్లు మరియు కీలక అనుమతుల ద్వారా మినహాయించబడిన ప్రొవైడర్లు అర్హత లేనివిగా ఉంటాయి.

విధానం	అర్హత ఎంపికలు
`allow_fallbacks: true`	ఇతర అర్హత ప్రొవైడర్లు ప్రతి కఠినమైన పరిమితిలో పరిగణించవచ్చు.
`allow_fallbacks: false` తో `order`	స్పష్టంగా ఆర్డర్‌లో జాబితా చేయబడిన ప్రొవైడర్లు మాత్రమే.
`allow_fallbacks: false` బడ్జెట్‌ను `order`	మొదటి ర్యాంక్ చేసిన ప్రొవైడర్ మాత్రమే.

ఫాల్బ్యాక్ అదే మోడల్‌ను ఉంచుతుంది#

ప్రొవైడర్ ఫాల్బ్యాక్ ఖచ్చితంగా అభ్యర్థించిన మోడల్ కోసం అర్హత ఉన్న మౌలిక సదుపాయాలను మార్చుతుంది. ఇది మరో మోడల్ ట్యాగ్‌కు మారదు. ShareAI ప్రొవైడర్‌లో చేయబడిన ఏదైనా అప్‌స్ట్రీమ్ విక్రేత ఎంపిక పబ్లిక్ క్రియేటర్ ఐడెంటిటీ మరియు ఎగ్జిక్యూషన్-ప్రొవైడర్ విధానం నుండి వేరు.

అంతరాయం కలిగిన అభ్యర్థనలను నిర్వహించండి#

రూటింగ్ విజయవంతమైన డిస్పాచ్ తర్వాత, అనిశ్చిత ప్రతిస్పందన లేదా పాక్షిక అవుట్‌పుట్ తర్వాత ఆటోమేటిక్ రీట్రై చేయదు. ఇది డూప్లికేట్ పని మరియు ఛార్జీలను నివారిస్తుంది. పాక్షిక అవుట్‌పుట్‌ను సంరక్షించండి మరియు కొత్త అభ్యర్థనను ప్రారంభించాలా లేదా అనేది అప్లికేషన్ నిర్ణయించనివ్వండి. అపరిమిత రీట్రై లూప్‌లను నివారించండి.

ఉదాహరణలు#

JSON

{
  "provider": {
    "sort": {
      "by": "latency",
      "direction": "asc"
    },
    "allow_fallbacks": true
  }
}

అత్యధిక త్రూపుట్‌ను ప్రాధాన్యత ఇవ్వాలంటే, ఉపయోగించండి {"by":"throughput","direction":"desc"}. ఆ ఆర్డర్ మీ ఉద్దేశించిన పరీక్ష లేదా వర్క్‌లోడ్‌కు సరిపోతే మాత్రమే ఏదైనా దిశను రివర్స్ చేయండి.

చివరిసారిగా నవీకరించబడింది సెప్టెంబర్ 16, 2026