AI Prosumer
RO
meta/llama3.1:8b

Llama 3.1 este un model de ultimă generație de la Meta, disponibil în dimensiuni de 8B, 70B și 405B de parametri.

Intrare → Ieșire
Text Text
Acces
Schimb de Token-uri
Fereastră de context
131.072 tokeni
Etichete model
93 versiuni disponibile
Licență: open_weights

De la model la aplicație

Start rapid

Referință API
  1. Obține cheia ta API

    Creează o cheie în Consola ShareAI, apoi salveaz-o ca variabilă de mediu pe serverul tău.

    Creează cheie API
    Variabilă de mediu
    export SHAREAI_API_KEY="your-api-key"
  2. Alege punctul tău final

    Trimite un request POST cu cheia ta API în antetul Authorization.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. Fă primul tău request

    Request-ul de mai jos folosește tag-ul selectat de tine. Rulează-l pe serverul tău pentru a păstra cheia API privată.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "meta/llama3.1:8b",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"meta/llama3.1:8b\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    TypeScript
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "meta/llama3.1:8b",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

Schimb de Token-uri

Disponibil prin Schimb de Token-uri

Utilizează rețeaua cu soldul tău de token-uri. Setările de consum ale contului tău determină modul în care sunt facturate cererile.

Alege versiunea ta

Etichete 93

Vezi toate etichetele

Deschide o etichetă pentru a vedea specificațiile și exemplele de API.

Un pic mai multe detalii

Întrebări frecvente

Ce este llama3.1?

Llama 3.1 este un model de ultimă generație de la Meta, disponibil în dimensiuni de 8B, 70B și 405B de parametri.

Cât costă llama3.1?

Acest tag este disponibil prin Token Exchange. Soldul tău de tokenuri și setările de consum ale contului determină accesul și facturarea. Verifică Consola pentru soldul și eligibilitatea ta.

Ce tipuri de intrări și ieșiri suportă llama3.1?

Intrări: Text. Ieșiri: Text. Aceste capabilități se aplică etichetei modelului selectat. Verifică documentația endpoint-ului pentru formatele de cerere acceptate.

Care este lungimea contextului pentru llama3.1?

Acest tag are o fereastră de context de 131.072 tokenuri. Dimensiunea contextului și pragurile de preț sunt separate. Limitele cererilor pot fi mai mici pentru o anumită implementare.

Suportă llama3.1 apelarea de instrumente și ieșirile structurate?

Apelarea de instrumente: Acceptată.

Cum folosesc llama3.1 cu ShareAI?

Creează o cheie API în Consola ShareAI, alege un tag de model și trimite o cerere autentificată către endpoint-ul din Quick Start. Cheia ta trebuie să aibă acces la modelul ales. Păstrează cheia pe serverul tău.