AI Prosumer
TR
nvidia/nemotron:70b-instruct-q4_1

Llama-3.1-Nemotron-70B-Instruct, NVIDIA tarafından kullanıcı sorgularına verilen LLM yanıtlarının faydasını artırmak için özelleştirilmiş büyük bir dil modelidir.

Girdi → Çıktı
Metin Metin
Erişim
Token Değişimi
Bağlam penceresi
131.072 tokenler
Model etiketleri
17 mevcut sürümler
Lisans: open_weights

Modelden uygulamaya

Hızlı Başlangıç

API referansı
  1. API anahtarınızı alın

    ShareAI Konsolu'nda bir anahtar oluşturun ve ardından sunucunuzda bir ortam değişkeni olarak kaydedin.

    API anahtarı oluştur
    Ortam değişkeni
    export SHAREAI_API_KEY="your-api-key"
  2. Uç noktanızı seçin

    API anahtarınızı Authorization başlığına ekleyerek bir POST isteği gönderin.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. İlk isteğinizi yapın

    Aşağıdaki istek, seçtiğiniz etiketi kullanır. API anahtarınızı gizli tutmak için bunu sunucunuzda çalıştırın.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "nvidia/nemotron:70b-instruct-q4_1",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"nvidia/nemotron:70b-instruct-q4_1\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    TypeScript
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "nvidia/nemotron:70b-instruct-q4_1",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

Token Değişimi

Token Değişimi ile Kullanılabilir

Ağı token bakiyenizle kullanın. Hesabınızın tüketim ayarları, taleplerin nasıl faturalandırılacağını belirler.

Sürümünüzü seçin

Etiketler 17

Tüm etiketleri görüntüle

Özelliklerini ve API örneklerini görmek için bir etiketi açın.

Biraz daha detay

Sıkça sorulan sorular

Nemotron nedir?

Llama-3.1-Nemotron-70B-Instruct, NVIDIA tarafından kullanıcı sorgularına verilen LLM yanıtlarının faydasını artırmak için özelleştirilmiş büyük bir dil modelidir.

Nemotron'un maliyeti nedir?

Bu etiket Token Exchange aracılığıyla kullanılabilir. Jeton bakiyeniz ve hesap tüketim ayarlarınız erişim ve faturalandırmayı belirler. Bakiyenizi ve uygunluğunuzu kontrol etmek için Konsolunuzu kontrol edin.

Nemotron hangi giriş ve çıkışları destekler?

Girişler: Metin. Çıkışlar: Metin. Bu yetenekler seçilen model etiketine uygulanır. Desteklenen istek formatları için uç nokta belgelerine göz atın.

Nemotron'un bağlam uzunluğu nedir?

Bu etiketin bağlam penceresi 131.072 token'dır. Bağlam boyutu ve fiyatlandırma eşikleri ayrıdır. Belirli bir dağıtım için istek limitleri daha düşük olabilir.

Nemotron araç çağırma ve yapılandırılmış çıktıları destekliyor mu?

Araç çağırma: Destekleniyor.

Nemotron'u ShareAI ile nasıl kullanırım?

ShareAI Konsolunda bir API anahtarı oluşturun, bir model etiketi seçin ve Hızlı Başlangıç'taki uç noktaya kimlik doğrulamalı bir istek gönderin. Anahtarınızın seçilen modele erişimi olması gerekir. Anahtarınızı sunucunuzda saklayın.