จัดเรียงผู้ให้บริการและควบคุมการสำรองข้อมูล
ทำความเข้าใจการจัดอันดับราคา ความหน่วง และปริมาณงานของ ShareAI, ผู้ให้บริการที่เรียงลำดับ, การวัดผลที่ไม่พร้อมใช้งาน และขอบเขตสำรองที่ปลอดภัย.
ในหน้านี้
ราคา#
การจัดอันดับราคาจะเปรียบเทียบอัตราระดับอินพุตที่ใช้บวกกับอัตราฐานเอาต์พุต ไม่ใช่การคาดการณ์ค่าใช้จ่ายคำขอทั้งหมด โปรดตรวจสอบราคาสำหรับอินพุต เอาต์พุต และแคชของผู้ให้บริการที่เลือกและปริมาณงานที่คุณคาดหวัง.
ความหน่วงและปริมาณงาน#
ความหน่วงใช้เวลาที่ผ่านไปของคำขอที่เสร็จสมบูรณ์ ไม่ใช่เวลาสำหรับโทเค็นแรก ปริมาณงานใช้จำนวนโทเค็นเอาต์พุตที่สังเกตได้ต่อวินาทีที่ผ่านไป การสังเกตล่าสุดครอบคลุมช่วงเวลา 5 นาที การวัดเหล่านี้ใช้สำหรับการกำหนดเส้นทาง แต่ไม่ได้รับประกันเวลาตอบสนองหรือความจุ.
ผู้ให้บริการที่ไม่มีการสังเกตราคา หรือประสิทธิภาพที่จำเป็น จะถูกจัดอันดับหลังจากผู้ให้บริการที่มีการวัดผลในทิศทางใดทิศทางหนึ่ง ตัวระบุที่เสถียรจะใช้แก้ไขกรณีที่คะแนนเท่ากัน.
จัดลำดับก่อนการเรียง#
ลำดับผู้ให้บริการที่ระบุไว้อย่างชัดเจนจะมีความสำคัญเหนือการเรียงลำดับ ภายในตัวเลือกที่ยังคงมีสิทธิ์ การเรียงลำดับที่เลือกจะกำหนดการจัดอันดับ ผู้ให้บริการที่ถูกละเว้น ผู้ให้บริการที่อยู่นอกเท่านั้น การดำเนินการที่ไม่รองรับ และผู้ให้บริการที่ถูกจำกัดโดยสิทธิ์สำคัญจะยังคงไม่มีสิทธิ์.
| นโยบาย | ตัวเลือกที่มีสิทธิ์ |
|---|---|
allow_fallbacks: true | ผู้ให้บริการที่มีสิทธิ์อื่น ๆ สามารถพิจารณาได้ ภายใต้ข้อจำกัดที่เข้มงวดทุกประการ. |
allow_fallbacks: false ด้วย order | เฉพาะผู้ให้บริการที่ระบุไว้อย่างชัดเจนตามลำดับเท่านั้น. |
allow_fallbacks: false โดยไม่ order | เฉพาะผู้ให้บริการที่มีอันดับแรกเท่านั้น. |
การสำรองข้อมูลยังคงใช้โมเดลเดิม#
การสำรองข้อมูลผู้ให้บริการเปลี่ยนโครงสร้างพื้นฐานที่มีสิทธิ์สำหรับโมเดลที่ร้องขอโดยเฉพาะ ไม่ได้เปลี่ยนไปยังแท็กโมเดลอื่น การเลือกผู้ขายต้นน้ำที่ทำภายในผู้ให้บริการ ShareAI แยกออกจากตัวตนของผู้สร้างสาธารณะและนโยบายผู้ให้บริการการดำเนินการ.
จัดการคำขอที่ถูกขัดจังหวะ#
การกำหนดเส้นทางจะไม่ลองใหม่โดยอัตโนมัติหลังจากการส่งสำเร็จ การตอบสนองที่ไม่แน่นอน หรือเอาต์พุตบางส่วน เพื่อหลีกเลี่ยงงานและค่าใช้จ่ายที่ซ้ำซ้อน ให้เก็บเอาต์พุตบางส่วนไว้และให้แอปพลิเคชันตัดสินใจว่าจะเริ่มคำขอใหม่หรือไม่ หลีกเลี่ยงการวนซ้ำการลองใหม่แบบไม่จำกัด.
ตัวอย่าง#
JSON
{
"provider": {
"sort": {
"by": "latency",
"direction": "asc"
},
"allow_fallbacks": true
}
}
หากต้องการให้ปริมาณงานสูงสุด ให้ใช้ {"by":"throughput","direction":"desc"}. กลับทิศทางใดทิศทางหนึ่งเฉพาะเมื่อคำสั่งนั้นตรงกับการทดสอบหรือปริมาณงานที่คุณตั้งใจ.
อัปเดตล่าสุด กันยายน 16, 2026