Cổng OpenCode AI: Kết nối Nhiều LLM Qua Một API

Một cổng OpenCode AI cung cấp cho bạn một lớp API ổn định giữa quy trình làm việc trên terminal của bạn và các mô hình mà bạn thực sự muốn sử dụng. Nếu bạn đang phải xử lý các khóa nhà cung cấp riêng biệt, các trang thanh toán riêng biệt, và các rủi ro về khả năng hoạt động riêng biệt, lớp bổ sung đó có thể làm cho OpenCode dễ dàng hơn để vận hành hàng ngày.

ShareAI phù hợp với vai trò đó vì nó cung cấp cho bạn một API cho hơn 150+ mô hình, cùng với định tuyến thông minh, chuyển đổi dự phòng, và khả năng hiển thị thị trường. OpenCode đã hỗ trợ các nhà cung cấp tùy chỉnh tương thích với OpenAI, vì vậy việc thiết lập chủ yếu là chỉ cần trỏ OpenCode đến URL cơ sở đúng và thêm mô hình bạn muốn sử dụng.

Hướng dẫn này là một phần của Nhà phát triển các bài viết về định tuyến AI, truy cập mô hình, và tích hợp sẵn sàng cho sản xuất.

Tại sao lại sử dụng một cổng OpenCode AI ngay từ đầu?

OpenCode được thiết kế để làm việc với nhiều nhà cung cấp, và tài liệu công khai của nó cho thấy hỗ trợ cấu hình nhà cung cấp tùy chỉnh, tùy chỉnh baseURL giá trị, và các điểm cuối tương thích với OpenAI. Sự linh hoạt đó rất mạnh mẽ, nhưng nó cũng có nghĩa là bạn có thể phải quản lý từng nhà cung cấp riêng biệt khi tất cả những gì bạn thực sự muốn là một quy trình làm việc lập trình sạch sẽ.

• Một khóa API thay vì một khóa cho mỗi nhà cung cấp mô hình.
• Một bề mặt thanh toán thay vì nhiều bảng điều khiển.
• Chuyển đổi sạch sẽ giữa các mô hình cho các chỉnh sửa nhanh, nhiệm vụ ngữ cảnh dài, hoặc các cải tổ nặng hơn.
• Một lớp định tuyến có thể giúp khi một nhà cung cấp chậm, không khả dụng, hoặc không còn phù hợp nhất cho công việc.

Đối với các nhà phát triển muốn sự linh hoạt mà không phải duy trì hệ thống nhà cung cấp riêng biệt, đó thường là điểm mà một cổng AI bắt đầu mang lại giá trị.

Cách OpenCode hỗ trợ thiết lập này

Theo thông tin chính thức Tài liệu nhà cung cấp OpenCode, bạn có thể tùy chỉnh cài đặt nhà cung cấp thông qua opencode.json, đặt một tùy chỉnh baseURL, và sử dụng @ai-sdk/openai-compatible cho các nhà cung cấp tương thích với OpenAI. Công khai kho lưu trữ GitHub của OpenCode cũng tài liệu hóa các đường dẫn cấu hình của nó và xác nhận rằng công cụ được xây dựng để linh hoạt ở cấp độ nhà cung cấp.

Điều đó có nghĩa là bạn không cần gói tích hợp ShareAI đặc biệt để bắt đầu. Bạn có thể thêm ShareAI làm nhà cung cấp tùy chỉnh, giữ khóa API của bạn trong một biến môi trường, và sau đó chọn mô hình chính xác mà bạn muốn OpenCode gọi.

Bước 1: Tạo khóa API ShareAI của bạn và chọn một mô hình

Bắt đầu bằng cách tạo thông tin xác thực trong Tạo một API Key. Sau đó duyệt qua chợ mô hình ShareAI để quyết định mô hình nào sẽ hỗ trợ quy trình làm việc OpenCode của bạn.

Một mẫu thực tế là chọn một mô hình mặc định cho các nhiệm vụ mã hóa hàng ngày và giữ một hoặc hai lựa chọn thay thế trong tâm trí cho các trường hợp bạn muốn độ trễ thấp hơn, chi phí thấp hơn, hoặc một mô hình lý luận mạnh hơn.

Bước 2: Thêm ShareAI làm nhà cung cấp tùy chỉnh trong opencode.json

OpenCode cho phép bạn định nghĩa một nhà cung cấp tùy chỉnh với một endpoint tương thích OpenAI. Một mẫu bắt đầu đơn giản trông như sau:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "shareai": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "ShareAI",
      "options": {
        "baseURL": "https://api.shareai.now/v1",
        "apiKey": "{env:SHAREAI_API_KEY}"
      },
      "models": {
        "your-shareai-model": {
          "name": "Choose a ShareAI model"
        }
      }
    }
  }
}

Thay thế mô hình-shareai-của-bạn với định danh mô hình chính xác mà bạn muốn sử dụng từ danh mục mô hình ShareAI. Giữ khóa API ngoài tệp và tải nó thông qua một biến môi trường thay vì.

export SHAREAI_API_KEY="your_api_key_here"

Nếu bạn muốn định dạng yêu cầu rộng hơn và chi tiết xác thực, Tham khảo API bao gồm luồng API cốt lõi của ShareAI.

Bước 3: Chuyển đổi mô hình mà không cần xây dựng lại thiết lập của bạn

Khi ShareAI là lớp nhà cung cấp, việc thay đổi mô hình trở nên nhẹ nhàng hơn nhiều. Bạn không còn phải làm lại xác thực nhà cung cấp mỗi khi muốn thử nghiệm một mô hình khác. Thay vào đó, bạn giữ nguyên bề mặt API và thay đổi mô hình mà bạn trỏ OpenCode vào.

Điều này đặc biệt hữu ích khi quy trình làm việc mã hóa của bạn thay đổi theo nhiệm vụ. Bạn có thể muốn một mô hình cho các chỉnh sửa nhanh, một mô hình khác cho việc suy luận kho lưu trữ lớn hơn, và một mô hình thứ ba như một phương án dự phòng khi chi phí hoặc độ trễ quan trọng hơn khả năng tối đa. Bạn có thể so sánh các tùy chọn trong thị trường mô hình và kiểm tra hành vi trong Sân chơi trước khi bạn khóa một mặc định.

Khi các khóa nhà cung cấp trực tiếp vẫn có ý nghĩa

Vẫn có những trường hợp mà việc đi trực tiếp là hợp lý. Nếu bạn phụ thuộc vào một tính năng beta cụ thể của nhà cung cấp, một thỏa thuận doanh nghiệp riêng tư, hoặc một thiết lập quản trị nghiêm ngặt trong nhà cung cấp, bạn có thể muốn giữ con đường đó riêng biệt.

Nhưng đối với các nhóm chủ yếu muốn OpenCode duy trì tính linh hoạt, di động và dễ vận hành hơn, việc sử dụng cổng AI OpenCode thường là lựa chọn mặc định sạch hơn. Nó giảm sự phân tán tài khoản và cho phép bạn đánh giá các mô hình dựa trên hiệu suất và sự phù hợp thay vì dựa vào lần đăng nhập nhà cung cấp gần nhất mà bạn đã cấu hình.

Kết luận cuối cùng

Cổng AI OpenCode không phải là việc thêm nhiều công cụ chỉ để có thêm. Nó là việc duy trì một quy trình làm việc mã hóa trong khi cho phép bạn thay đổi mô hình, so sánh nhà cung cấp và tiếp tục tiến lên khi bối cảnh mô hình cơ bản thay đổi. Nếu đó là điều bạn muốn từ OpenCode, ShareAI cung cấp cho bạn một cách thực tế để thực hiện điều đó thông qua một API.