AI Prosumer
TE
meta/llama3:8b-instruct-q3_k_l

Meta Llama 3: ఇప్పటివరకు అందుబాటులో ఉన్న అత్యంత సామర్థ్యవంతమైన ఓపెన్ LLM

ఇన్‌పుట్ → అవుట్‌పుట్
టెక్స్ట్ టెక్స్ట్
యాక్సెస్
టోకెన్ ఎక్స్చేంజ్
కాంటెక్స్ట్ విండో
8,192 టోకెన్లు
మోడల్ ట్యాగ్‌లు
68 అందుబాటులో ఉన్న వెర్షన్లు
లైసెన్స్: ఓపెన్_వెయిట్స్

మోడల్ నుండి అప్లికేషన్ వరకు

త్వరిత ప్రారంభం

API రిఫరెన్స్
  1. మీ API కీ పొందండి

    ShareAI కన్సోల్‌లో ఒక కీని సృష్టించి, దాన్ని మీ సర్వర్‌లో ఎన్విరాన్‌మెంట్ వేరియబుల్‌గా సేవ్ చేయండి.

    API కీ సృష్టించండి
    ఎన్విరాన్‌మెంట్ వేరియబుల్
    export SHAREAI_API_KEY="your-api-key"
  2. మీ ఎండ్‌పాయింట్‌ను ఎంచుకోండి

    మీ API కీని Authorization హెడర్‌లో ఉంచి POST అభ్యర్థనను పంపండి.

    POSThttps://api.shareai.now/api/v1/chat/completions

    ఈ ట్యాగ్ యొక్క ఎండ్‌పాయింట్ నిర్ధారించబడలేదు. API రిఫరెన్స్ మరియు మీ కన్సోల్‌ను చెక్ చేసి, అభ్యర్థన పంపించే ముందు ధృవీకరించండి.

  3. మీ మొదటి అభ్యర్థనను చేయండి

    ఉదాహరణలు మీ ఎంపిక చేసిన ట్యాగ్‌ను ఉపయోగించి దాని అభ్యర్థన ఫార్మాట్‌ను చూపిస్తాయి. మీ API కీని ప్రైవేట్‌గా ఉంచడానికి వాటిని మీ సర్వర్‌పై నడపండి. మీరు అభ్యర్థన పంపినప్పుడు మోడల్ లభ్యత మరియు ఖాతా ప్రాప్యతను తనిఖీ చేస్తారు.

    cURL
    curl --fail-with-body --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "meta/llama3:8b-instruct-q3_k_l",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    పైథాన్
    import json
    import os
    import urllib.request
    
    payload = {
        "model": "meta/llama3:8b-instruct-q3_k_l",
        "messages": [
            {
                "role": "user",
                "content": "Hello!",
            },
        ],
        "stream": False,
    }
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request, timeout=180) as response:
        print(json.dumps(json.load(response), indent=2))
    గో
    package main
    
    import (
        "bytes"
        "encoding/json"
        "fmt"
        "io"
        "net/http"
        "os"
        "time"
    )
    
    func main() {
        if err := run(); err != nil {
            fmt.Fprintln(os.Stderr, err)
            os.Exit(1)
        }
    }
    
    func run() error {
        key := os.Getenv("SHAREAI_API_KEY")
        if key == "" { return fmt.Errorf("set SHAREAI_API_KEY") }
        body := []byte(`{
      "model": "meta/llama3:8b-instruct-q3_k_l",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }`)
        request, err := http.NewRequest(http.MethodPost, "https://api.shareai.now/api/v1/chat/completions", bytes.NewReader(body))
        if err != nil { return err }
        request.Header.Set("Authorization", "Bearer " + key)
        request.Header.Set("Content-Type", "application/json")
        client := &http.Client{Timeout: 180 * time.Second}
        response, err := client.Do(request)
        if err != nil { return err }
        defer response.Body.Close()
        if response.StatusCode < 200 || response.StatusCode >= 300 {
            detail, _ := io.ReadAll(io.LimitReader(response.Body, 1<<20))
            return fmt.Errorf("ShareAI HTTP %d: %s", response.StatusCode, detail)
        }
        var result any
        if err := json.NewDecoder(response.Body).Decode(&result); err != nil { return err }
        encoder := json.NewEncoder(os.Stdout)
        encoder.SetIndent("", "  ")
        return encoder.Encode(result)
    }

    main.go గా సేవ్ చేసి, go run main.go ను నడపండి. ఈ ఉదాహరణ Go ప్రామాణిక లైబ్రరీని ఉపయోగిస్తుంది.

    Rust డిపెండెన్సీలను సెటప్ చేయండి

    మీ Cargo ప్రాజెక్ట్‌లో ఈ డిపెండెన్సీలను జోడించండి. ఉదాహరణను src/main.rs గా సేవ్ చేసి, తరువాత cargo run ను నడపండి.

    Cargo ఆదేశాలు
    cargo add [email protected] --no-default-features --features blocking,json,rustls-tls
    cargo add serde_json@1
    రస్ట్
    fn main() -> Result<(), Box<dyn std::error::Error>> {
        let api_key = std::env::var("SHAREAI_API_KEY")?;
        let payload: serde_json::Value = serde_json::from_str(r#"{
      "model": "meta/llama3:8b-instruct-q3_k_l",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }"#)?;
        let client = reqwest::blocking::Client::builder()
            .timeout(std::time::Duration::from_secs(180))
            .build()?;
        let response = client.post(r#"https://api.shareai.now/api/v1/chat/completions"#)
            .bearer_auth(api_key)
            .json(&payload)
            .send()?
            .error_for_status()?;
        let result: serde_json::Value = response.json()?;
        println!("{}", serde_json::to_string_pretty(&result)?);
        Ok(())
    }
    టైప్‌స్క్రిప్ట్
    const payload = {
      "model": "meta/llama3:8b-instruct-q3_k_l",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    };
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify(payload),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(JSON.stringify(await response.json(), null, 2));

టోకెన్ ఎక్స్చేంజ్

టోకెన్ ఎక్స్చేంజ్ ద్వారా అందుబాటులో ఉంది

మీ టోకెన్ బ్యాలెన్స్‌తో నెట్‌వర్క్‌ను ఉపయోగించండి. మీ ఖాతా వినియోగ సెట్టింగులు అభ్యర్థనల బిల్లింగ్‌ను నిర్ణయిస్తాయి.

మీ వెర్షన్‌ను ఎంచుకోండి

ట్యాగ్‌లు 68

అన్ని ట్యాగ్‌లను చూడండి

దాని స్పెసిఫికేషన్లు మరియు API ఉదాహరణలను చూడటానికి ఒక ట్యాగ్‌ను తెరవండి.

meta/llama3:latest8,192 టోకెన్ సందర్భం
టోకెన్ ఎక్స్చేంజ్
meta/llama3:8b8,192 టోకెన్ సందర్భం
టోకెన్ ఎక్స్చేంజ్

కొంచెం మరింత వివరాలు

తరచుగా అడిగే ప్రశ్నలు

llama3 అంటే ఏమిటి?

Meta Llama 3: ఇప్పటివరకు అందుబాటులో ఉన్న అత్యంత సామర్థ్యవంతమైన ఓపెన్ LLM

llama3 ధర ఎంత?

ఈ ట్యాగ్ టోకెన్ ఎక్స్చేంజ్ ద్వారా అందుబాటులో ఉంది. మీ టోకెన్ బ్యాలెన్స్ మరియు ఖాతా వినియోగ సెట్టింగ్‌లు యాక్సెస్ మరియు బిల్లింగ్‌ను నిర్ణయిస్తాయి. మీ బ్యాలెన్స్ మరియు అర్హతను తనిఖీ చేయడానికి మీ కన్సోల్‌ను చూడండి.

llama3 ఏ ఇన్‌పుట్‌లు మరియు అవుట్‌పుట్‌లను మద్దతు ఇస్తుంది?

ఇన్‌పుట్‌లు: టెక్స్ట్. అవుట్‌పుట్‌లు: టెక్స్ట్. ఈ సామర్థ్యాలు ఎంపిక చేసిన మోడల్ ట్యాగ్‌కు వర్తిస్తాయి. మద్దతు ఉన్న అభ్యర్థన ఫార్మాట్‌ల కోసం ఎండ్‌పాయింట్ డాక్యుమెంటేషన్‌ను తనిఖీ చేయండి.

llama3 యొక్క కాంటెక్స్ట్ పొడవు ఎంత?

ఈ ట్యాగ్‌లో 8,192 టోకెన్ల కాంటెక్స్ట్ విండో ఉంది. కాంటెక్స్ట్ పరిమాణం మరియు ధరల పరిమితులు వేర్వేరు. నిర్దిష్ట డిప్లాయ్‌మెంట్ కోసం అభ్యర్థన పరిమితులు తక్కువగా ఉండవచ్చు.

ShareAIతో llama3ని ఎలా ఉపయోగించాలి?

ShareAI Consoleలో API కీని సృష్టించండి, మోడల్ ట్యాగ్‌ను ఎంచుకోండి, మరియు Quick Startలో ఎండ్‌పాయింట్‌కు ధృవీకరించిన అభ్యర్థనను పంపండి. మీ కీ ఎంచుకున్న మోడల్‌కు యాక్సెస్ కలిగి ఉండాలి. మీ కీని మీ సర్వర్‌లో ఉంచండి.