AI Prosumer
TR
tencent/llama-pro:8b-instruct-q3_k_s

Genel dil anlayışı ile alanlara özgü bilgileri, özellikle programlama ve matematikte birleştirme konusunda uzmanlaşmış bir Llama 2 genişlemesi.

Girdi → Çıktı
Metin Metin
Erişim
Token Değişimi
Bağlam penceresi
4.096 tokenler
Model etiketleri
33 mevcut sürümler
Lisans: bilinmiyor

Modelden uygulamaya

Hızlı Başlangıç

API referansı
  1. API anahtarınızı alın

    ShareAI Konsolu'nda bir anahtar oluşturun ve ardından sunucunuzda bir ortam değişkeni olarak kaydedin.

    API anahtarı oluştur
    Ortam değişkeni
    export SHAREAI_API_KEY="your-api-key"
  2. Uç noktanızı seçin

    API anahtarınızı Authorization başlığına ekleyerek bir POST isteği gönderin.

    POSThttps://api.shareai.now/api/v1/chat/completions

    Bu etiketin uç noktası doğrulanmadı. Bir istek göndermeden önce API referansını ve Konsolunuzu kontrol edin.

  3. İlk isteğinizi yapın

    Örnekler, seçtiğiniz etiketi kullanır ve istek formatını gösterir. API anahtarınızı gizli tutmak için bunları sunucunuzda çalıştırın. Bir istek gönderdiğinizde model kullanılabilirliği ve hesap erişimi kontrol edilir.

    cURL
    curl --fail-with-body --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "tencent/llama-pro:8b-instruct-q3_k_s",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = {
        "model": "tencent/llama-pro:8b-instruct-q3_k_s",
        "messages": [
            {
                "role": "user",
                "content": "Hello!",
            },
        ],
        "stream": False,
    }
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request, timeout=180) as response:
        print(json.dumps(json.load(response), indent=2))
    Go
    package main
    
    import (
        "bytes"
        "encoding/json"
        "fmt"
        "io"
        "net/http"
        "os"
        "time"
    )
    
    func main() {
        if err := run(); err != nil {
            fmt.Fprintln(os.Stderr, err)
            os.Exit(1)
        }
    }
    
    func run() error {
        key := os.Getenv("SHAREAI_API_KEY")
        if key == "" { return fmt.Errorf("set SHAREAI_API_KEY") }
        body := []byte(`{
      "model": "tencent/llama-pro:8b-instruct-q3_k_s",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }`)
        request, err := http.NewRequest(http.MethodPost, "https://api.shareai.now/api/v1/chat/completions", bytes.NewReader(body))
        if err != nil { return err }
        request.Header.Set("Authorization", "Bearer " + key)
        request.Header.Set("Content-Type", "application/json")
        client := &http.Client{Timeout: 180 * time.Second}
        response, err := client.Do(request)
        if err != nil { return err }
        defer response.Body.Close()
        if response.StatusCode < 200 || response.StatusCode >= 300 {
            detail, _ := io.ReadAll(io.LimitReader(response.Body, 1<<20))
            return fmt.Errorf("ShareAI HTTP %d: %s", response.StatusCode, detail)
        }
        var result any
        if err := json.NewDecoder(response.Body).Decode(&result); err != nil { return err }
        encoder := json.NewEncoder(os.Stdout)
        encoder.SetIndent("", "  ")
        return encoder.Encode(result)
    }

    main.go olarak kaydedin ve go run main.go komutunu çalıştırın. Bu örnek, Go standart kütüphanesini kullanır.

    Rust bağımlılıklarını ayarlayın

    Cargo projenizde bu bağımlılıkları ekleyin. Örneği src/main.rs olarak kaydedin, ardından cargo run komutunu çalıştırın.

    Cargo komutları
    cargo add [email protected] --no-default-features --features blocking,json,rustls-tls
    cargo add serde_json@1
    Paslı
    fn main() -> Result<(), Box<dyn std::error::Error>> {
        let api_key = std::env::var("SHAREAI_API_KEY")?;
        let payload: serde_json::Value = serde_json::from_str(r#"{
      "model": "tencent/llama-pro:8b-instruct-q3_k_s",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }"#)?;
        let client = reqwest::blocking::Client::builder()
            .timeout(std::time::Duration::from_secs(180))
            .build()?;
        let response = client.post(r#"https://api.shareai.now/api/v1/chat/completions"#)
            .bearer_auth(api_key)
            .json(&payload)
            .send()?
            .error_for_status()?;
        let result: serde_json::Value = response.json()?;
        println!("{}", serde_json::to_string_pretty(&result)?);
        Ok(())
    }
    TypeScript
    const payload = {
      "model": "tencent/llama-pro:8b-instruct-q3_k_s",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    };
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify(payload),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(JSON.stringify(await response.json(), null, 2));

Token Değişimi

Token Değişimi ile Kullanılabilir

Ağı token bakiyenizle kullanın. Hesabınızın tüketim ayarları, taleplerin nasıl faturalandırılacağını belirler.

Sürümünüzü seçin

Etiketler 33

Tüm etiketleri görüntüle

Özelliklerini ve API örneklerini görmek için bir etiketi açın.

Biraz daha detay

Sıkça sorulan sorular

llama-pro nedir?

Genel dil anlayışı ile alanlara özgü bilgileri, özellikle programlama ve matematikte birleştirme konusunda uzmanlaşmış bir Llama 2 genişlemesi.

llama-pro'nun maliyeti nedir?

Bu etiket Token Exchange aracılığıyla kullanılabilir. Jeton bakiyeniz ve hesap tüketim ayarlarınız erişim ve faturalandırmayı belirler. Bakiyenizi ve uygunluğunuzu kontrol etmek için Konsolunuzu kontrol edin.

llama-pro hangi giriş ve çıkışları destekler?

Girişler: Metin. Çıkışlar: Metin. Bu yetenekler seçilen model etiketine uygulanır. Desteklenen istek formatları için uç nokta belgelerine göz atın.

llama-pro'nun bağlam uzunluğu nedir?

Bu etiketin bağlam penceresi 4.096 token'dır. Bağlam boyutu ve fiyatlandırma eşikleri ayrıdır. Belirli bir dağıtım için istek limitleri daha düşük olabilir.

llama-pro'yu ShareAI ile nasıl kullanırım?

ShareAI Konsolunda bir API anahtarı oluşturun, bir model etiketi seçin ve Hızlı Başlangıç'taki uç noktaya kimlik doğrulamalı bir istek gönderin. Anahtarınızın seçilen modele erişimi olması gerekir. Anahtarınızı sunucunuzda saklayın.