ترتيب المزودين والتحكم في البدائل

السعر#

تصنيف السعر يقارن معدل الطبقة المدخلة المطبقة بالإضافة إلى معدل الإخراج الأساسي. لا يُعتبر توقعًا للفاتورة الإجمالية للطلب. راجع أسعار الإدخال، الإخراج والتخزين المؤقت للمزود المختار وحجم العمل المتوقع لديك.

زمن الاستجابة ومعدل الإنتاجية#

زمن الاستجابة يستخدم الوقت المنقضي للطلبات المكتملة الملاحظة، وليس الوقت لأول رمز. معدل الإنتاجية يستخدم الرموز الناتجة لكل ثانية من الوقت المنقضي الملاحظة. الملاحظات الأخيرة تغطي نافذة زمنية مدتها خمس دقائق. هذه القياسات توجه التوجيه؛ لكنها لا تضمن وقت استجابة أو قدرة.

المزودون الذين لا تتوفر لديهم الملاحظات المطلوبة للسعر أو الأداء يتم ترتيبهم بعد المزودين الذين تم قياسهم في أي اتجاه. المعرفات المستقرة تحل التعادل.

الترتيب قبل الفرز#

ترتيب المزود الصريح يأخذ الأولوية على الفرز. ضمن الخيارات المؤهلة المتبقية، يحدد الفرز المختار التصنيف. المزودون الذين يتم تجاهلهم، المزودون خارج النطاق فقط، العمليات غير المدعومة والمزودون المستبعدون بموجب أذونات المفتاح يظلون غير مؤهلين.

التراجع يحافظ على نفس النموذج#

تراجع المزود يغير البنية التحتية المؤهلة للنموذج المطلوب بالضبط. لا ينتقل إلى علامة نموذج أخرى. أي اختيار للبائع العلوي يتم داخل مزود ShareAI منفصل عن هوية المنشئ العامة وسياسة مزود التنفيذ.

التعامل مع الطلبات المقطوعة#

التوجيه لا يعيد المحاولة تلقائيًا بعد الإرسال الناجح، الاستجابة غير المؤكدة أو الإخراج الجزئي. هذا يتجنب العمل المكرر والتكاليف. احتفظ بالإخراج الجزئي ودع التطبيق يقرر ما إذا كان يجب بدء طلب جديد. تجنب حلقات إعادة المحاولة غير المحدودة.

أمثلة#

{
  "provider": {
    "sort": {
      "by": "latency",
      "direction": "asc"
    },
    "allow_fallbacks": true
  }
}

لتفضيل أعلى معدل إنتاجية، استخدم {"by":"throughput","direction":"desc"}. عكس أي اتجاه فقط عندما يتطابق هذا الترتيب مع الاختبار أو حجم العمل المقصود لديك.