Tham chiếu chính sách nhà cung cấp

Tùy chọn provider đối tượng thuộc cấp cao nhất của yêu cầu suy luận, cùng với model. Một đối tượng trống sử dụng các giá trị mặc định. Nó tách biệt với Truy cập Từ xa Nhà cung cấp và thông tin xác thực quản lý của nó.

{
  "provider": {
    "ignore": [
      "PROVIDER_TO_EXCLUDE"
    ],
    "networks": [
      "company",
      "shareai"
    ],
    "sort": {
      "by": "throughput",
      "direction": "desc"
    },
    "allow_fallbacks": true
  }
}

Thay thế chỗ giữ bằng một thẻ nhà cung cấp viết thường thực tế, hoặc xóa trường ignore. Các loại mạng chọn danh mục cơ sở hạ tầng; chúng không xác định người tạo mô hình.

Mặc định sắp xếp#

Đối với một đối tượng, đặt by đến một trong những tên này và direction đến asc hoặc desc. Xem cách đo lường và dự phòng hoạt động.

Xác thực và lỗi#

• Sử dụng các boolean JSON và mảng các thẻ nhà cung cấp viết thường. Không gửi null cho nhà cung cấp hoặc sắp xếp.
• Chỉ các trường được liệt kê được chấp nhận; đây không phải là một triển khai đầy đủ tham số OpenRouter.
• Chính sách bị giới hạn ở 8 KiB. Các danh sách only, ignore và order mỗi danh sách chấp nhận tối đa 100 thẻ.
• Các chính sách không hợp lệ trả về HTTP 400. Phạm vi thông tin xác thực bị cấm trả về HTTP 403. Không có nhà cung cấp đủ điều kiện nào khả dụng trả về HTTP 503.

Một chính sách tối thiểu#

{
  "provider": {
    "sort": "price"
  }
}

Khi hoàn toàn bỏ qua, việc chọn nhà cung cấp cũng sẽ mặc định theo xếp hạng giá tăng dần. Các ràng buộc luôn được áp dụng trước khi xếp hạng.