AI Prosumer
RO
nousresearch/yarn-llama2:latest

O extensie a Llama 2 care suportă un context de până la 128k tokeni.

Intrare → Ieșire
Text Text
Acces
Schimb de Token-uri
Fereastră de context
65.536 tokeni
Etichete model
67 versiuni disponibile
Licență: necunoscut

De la model la aplicație

Start rapid

Referință API
  1. Obține cheia ta API

    Creează o cheie în Consola ShareAI, apoi salveaz-o ca variabilă de mediu pe serverul tău.

    Creează cheie API
    Variabilă de mediu
    export SHAREAI_API_KEY="your-api-key"
  2. Alege punctul tău final

    Trimite un request POST cu cheia ta API în antetul Authorization.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. Fă primul tău request

    Request-ul de mai jos folosește tag-ul selectat de tine. Rulează-l pe serverul tău pentru a păstra cheia API privată.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "nousresearch/yarn-llama2:latest",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"nousresearch/yarn-llama2:latest\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    TypeScript
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "nousresearch/yarn-llama2:latest",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

Schimb de Token-uri

Disponibil prin Schimb de Token-uri

Utilizează rețeaua cu soldul tău de token-uri. Setările de consum ale contului tău determină modul în care sunt facturate cererile.

Alege versiunea ta

Etichete 67

Vezi toate etichetele

Deschide o etichetă pentru a vedea specificațiile și exemplele de API.

Un pic mai multe detalii

Întrebări frecvente

Ce este yarn-llama2?

O extensie a Llama 2 care suportă un context de până la 128k tokeni.

Cât costă yarn-llama2?

Acest tag este disponibil prin Token Exchange. Soldul tău de tokenuri și setările de consum ale contului determină accesul și facturarea. Verifică Consola pentru soldul și eligibilitatea ta.

Ce tipuri de input și output acceptă yarn-llama2?

Intrări: Text. Ieșiri: Text. Aceste capabilități se aplică etichetei modelului selectat. Verifică documentația endpoint-ului pentru formatele de cerere acceptate.

Care este lungimea contextului pentru yarn-llama2?

Acest tag are o fereastră de context de 65.536 de tokeni. Dimensiunea contextului și pragurile de preț sunt separate. Limitele de cerere pot fi mai mici pentru o anumită implementare.

Cum folosesc yarn-llama2 cu ShareAI?

Creează o cheie API în Consola ShareAI, alege un tag de model și trimite o cerere autentificată către endpoint-ul din Quick Start. Cheia ta trebuie să aibă acces la modelul ales. Păstrează cheia pe serverul tău.