AI Prosumer
FR
nvidia/nemotron:70b-instruct-q3_k_s

Llama-3.1-Nemotron-70B-Instruct est un modèle de langage de grande taille personnalisé par NVIDIA pour améliorer la pertinence des réponses générées par les LLM aux requêtes des utilisateurs.

Entrée → Sortie
Texte Texte
Accès
Échange de jetons
Fenêtre de contexte
131 072 jetons
Tags du modèle
17 versions disponibles
Licence: ouvrir_poids

Du modèle à l'application

Démarrage rapide

Référence API
  1. Obtenez votre clé API

    Créez une clé dans la Console ShareAI, puis enregistrez-la comme variable d'environnement sur votre serveur.

    Créer une clé API
    Variable d'environnement
    export SHAREAI_API_KEY="your-api-key"
  2. Choisissez votre point de terminaison

    Envoyez une requête POST avec votre clé API dans l'en-tête Authorization.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. Faites votre première requête

    La requête ci-dessous utilise votre tag sélectionné. Exécutez-la sur votre serveur pour garder votre clé API privée.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "nvidia/nemotron:70b-instruct-q3_k_s",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    Python
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"nvidia/nemotron:70b-instruct-q3_k_s\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    TypeScript
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "nvidia/nemotron:70b-instruct-q3_k_s",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

Échange de jetons

Disponible via l'échange de tokens

Utilisez le réseau avec votre solde de tokens. Les paramètres de consommation de votre compte déterminent comment les requêtes sont facturées.

Choisissez votre version

Balises 17

Voir tous les tags

Ouvrez un tag pour voir ses spécifications et des exemples d'API.

Un peu plus de détails

Questions fréquemment posées

Qu'est-ce que nemotron ?

Llama-3.1-Nemotron-70B-Instruct est un modèle de langage de grande taille personnalisé par NVIDIA pour améliorer la pertinence des réponses générées par les LLM aux requêtes des utilisateurs.

Combien coûte nemotron ?

Ce tag est disponible via l'Échange de Tokens. Le solde de vos tokens et les paramètres de consommation de votre compte déterminent l'accès et la facturation. Consultez votre Console pour vérifier votre solde et votre éligibilité.

Quels sont les entrées et sorties prises en charge par nemotron ?

Entrées : Texte. Sorties : Texte. Ces capacités s'appliquent au modèle sélectionné. Consultez la documentation de l'endpoint pour les formats de requête pris en charge.

Quelle est la longueur de contexte de nemotron ?

Ce tag dispose d'une fenêtre de contexte de 131 072 tokens. La taille du contexte et les seuils de tarification sont distincts. Les limites de requêtes peuvent être inférieures pour un déploiement particulier.

Est-ce que nemotron prend en charge l'appel d'outils et les sorties structurées ?

Appel d'outils : Pris en charge.

Comment utiliser nemotron avec ShareAI ?

Créez une clé API dans la Console ShareAI, choisissez une étiquette de modèle, et envoyez une requête authentifiée à l'endpoint dans le guide de démarrage rapide. Votre clé doit avoir accès au modèle choisi. Conservez votre clé sur votre serveur.