AI Prosumer
VI
fireworks/firefunction-v2:70b-q4_0

Mô hình gọi hàm với trọng số mở dựa trên Llama 3, cạnh tranh với khả năng gọi hàm của GPT-4o.

Đầu vào → Đầu ra
Văn bản Văn bản
Truy cập
Trao đổi Token
Cửa sổ ngữ cảnh
8.192 mã thông báo
Thẻ mô hình
17 các phiên bản có sẵn
Giấy phép: open_weights

Từ mô hình đến ứng dụng

Bắt đầu nhanh

Tham chiếu API
  1. Lấy khóa API của bạn

    Tạo một khóa trong ShareAI Console, sau đó lưu nó dưới dạng biến môi trường trên máy chủ của bạn.

    Tạo khóa API
    Biến môi trường
    export SHAREAI_API_KEY="your-api-key"
  2. Chọn điểm cuối của bạn

    Gửi yêu cầu POST với khóa API của bạn trong tiêu đề Authorization.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. Thực hiện yêu cầu đầu tiên của bạn

    Yêu cầu dưới đây sử dụng thẻ bạn đã chọn. Chạy nó trên máy chủ của bạn để giữ khóa API của bạn an toàn.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "fireworks/firefunction-v2:70b-q4_0",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"fireworks/firefunction-v2:70b-q4_0\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    TypeScript
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "fireworks/firefunction-v2:70b-q4_0",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

Trao đổi Token

Có sẵn thông qua Trao đổi Token

Sử dụng mạng với số dư token của bạn. Cài đặt tiêu thụ của tài khoản bạn sẽ quyết định cách tính phí cho các yêu cầu.

Chọn phiên bản của bạn

Thẻ 17

Xem tất cả thẻ

Mở một thẻ để xem thông số kỹ thuật và ví dụ API của nó.

Một chút chi tiết hơn

Câu hỏi thường gặp

firefunction-v2 là gì?

Mô hình gọi hàm với trọng số mở dựa trên Llama 3, cạnh tranh với khả năng gọi hàm của GPT-4o.

firefunction-v2 có giá bao nhiêu?

Thẻ này có sẵn thông qua Token Exchange. Số dư token và cài đặt tiêu thụ tài khoản của bạn xác định quyền truy cập và thanh toán. Kiểm tra Console của bạn để xem số dư và điều kiện đủ điều kiện.

firefunction-v2 hỗ trợ những đầu vào và đầu ra nào?

Đầu vào: Văn bản. Đầu ra: Văn bản. Các khả năng này áp dụng cho thẻ mô hình đã chọn. Kiểm tra tài liệu endpoint để biết các định dạng yêu cầu được hỗ trợ.

Độ dài ngữ cảnh của firefunction-v2 là bao nhiêu?

Thẻ này có cửa sổ ngữ cảnh là 8.192 token. Kích thước ngữ cảnh và ngưỡng giá được tách biệt. Giới hạn yêu cầu có thể thấp hơn đối với một triển khai cụ thể.

firefunction-v2 có hỗ trợ gọi công cụ và đầu ra có cấu trúc không?

Gọi công cụ: Được hỗ trợ.

Làm thế nào để sử dụng firefunction-v2 với ShareAI?

Tạo một khóa API trong ShareAI Console, chọn một thẻ mô hình và gửi yêu cầu xác thực đến endpoint trong phần Bắt đầu nhanh. Khóa của bạn phải có quyền truy cập vào mô hình đã chọn. Giữ khóa của bạn trên máy chủ của bạn.