AI Prosumer
TE
nvidia/nemotron:70b-instruct-q3_k_l

Llama-3.1-Nemotron-70B-Instruct అనేది NVIDIA ద్వారా అనుకూలీకరించబడిన పెద్ద భాషా మోడల్, ఇది వినియోగదారుల ప్రశ్నలకు LLM జనరేట్ చేసిన ప్రతిస్పందనల సహాయాన్ని మెరుగుపరచడానికి రూపొందించబడింది.

ఇన్‌పుట్ → అవుట్‌పుట్
టెక్స్ట్ టెక్స్ట్
యాక్సెస్
టోకెన్ ఎక్స్చేంజ్
కాంటెక్స్ట్ విండో
131,072 టోకెన్లు
మోడల్ ట్యాగ్‌లు
17 అందుబాటులో ఉన్న వెర్షన్లు
లైసెన్స్: ఓపెన్_వెయిట్స్

మోడల్ నుండి అప్లికేషన్ వరకు

త్వరిత ప్రారంభం

API రిఫరెన్స్
  1. మీ API కీ పొందండి

    ShareAI కన్సోల్‌లో ఒక కీని సృష్టించి, దాన్ని మీ సర్వర్‌లో ఎన్విరాన్‌మెంట్ వేరియబుల్‌గా సేవ్ చేయండి.

    API కీ సృష్టించండి
    ఎన్విరాన్‌మెంట్ వేరియబుల్
    export SHAREAI_API_KEY="your-api-key"
  2. మీ ఎండ్‌పాయింట్‌ను ఎంచుకోండి

    మీ API కీని Authorization హెడర్‌లో ఉంచి POST అభ్యర్థనను పంపండి.

    POSThttps://api.shareai.now/api/v1/chat/completions
  3. మీ మొదటి అభ్యర్థనను చేయండి

    క్రింది అభ్యర్థన మీ ఎంపిక చేసిన ట్యాగ్‌ను ఉపయోగిస్తుంది. మీ API కీని గోప్యంగా ఉంచడానికి దీన్ని మీ సర్వర్‌పై నడపండి.

    cURL
    curl --request POST 'https://api.shareai.now/api/v1/chat/completions' \
      --header "Authorization: Bearer ${SHAREAI_API_KEY}" \
      --header 'Content-Type: application/json' \
      --data-raw '{
      "model": "nvidia/nemotron:70b-instruct-q3_k_l",
      "messages": [
        {
          "role": "user",
          "content": "Hello!"
        }
      ],
      "stream": false
    }'
    పైథాన్
    import json
    import os
    import urllib.request
    
    payload = json.loads("{\n  \"model\": \"nvidia/nemotron:70b-instruct-q3_k_l\",\n  \"messages\": [\n    {\n      \"role\": \"user\",\n      \"content\": \"Hello!\"\n    }\n  ],\n  \"stream\": false\n}")
    request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions",
        data=json.dumps(payload).encode(),
        headers={
            "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}",
            "Content-Type": "application/json",
        },
        method="POST",
    )
    with urllib.request.urlopen(request) as response:
        print(json.load(response))
    టైప్‌స్క్రిప్ట్
    const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
      method: 'POST',
      headers: {
        Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        "model": "nvidia/nemotron:70b-instruct-q3_k_l",
        "messages": [
          {
            "role": "user",
            "content": "Hello!"
          }
        ],
        "stream": false
      }),
    });
    if (!response.ok) throw new Error(await response.text());
    console.log(await response.json());

టోకెన్ ఎక్స్చేంజ్

టోకెన్ ఎక్స్చేంజ్ ద్వారా అందుబాటులో ఉంది

మీ టోకెన్ బ్యాలెన్స్‌తో నెట్‌వర్క్‌ను ఉపయోగించండి. మీ ఖాతా వినియోగ సెట్టింగులు అభ్యర్థనల బిల్లింగ్‌ను నిర్ణయిస్తాయి.

మీ వెర్షన్‌ను ఎంచుకోండి

ట్యాగ్‌లు 17

అన్ని ట్యాగ్‌లను చూడండి

దాని స్పెసిఫికేషన్లు మరియు API ఉదాహరణలను చూడటానికి ఒక ట్యాగ్‌ను తెరవండి.

nvidia/nemotron:latest131,072 టోకెన్ సందర్భం
టోకెన్ ఎక్స్చేంజ్
nvidia/nemotron:70b131,072 టోకెన్ సందర్భం
టోకెన్ ఎక్స్చేంజ్

కొంచెం మరింత వివరాలు

తరచుగా అడిగే ప్రశ్నలు

nemotron అంటే ఏమిటి?

Llama-3.1-Nemotron-70B-Instruct అనేది NVIDIA ద్వారా అనుకూలీకరించబడిన పెద్ద భాషా మోడల్, ఇది వినియోగదారుల ప్రశ్నలకు LLM జనరేట్ చేసిన ప్రతిస్పందనల సహాయాన్ని మెరుగుపరచడానికి రూపొందించబడింది.

nemotron ఖర్చు ఎంత?

ఈ ట్యాగ్ టోకెన్ ఎక్స్చేంజ్ ద్వారా అందుబాటులో ఉంది. మీ టోకెన్ బ్యాలెన్స్ మరియు ఖాతా వినియోగ సెట్టింగ్‌లు యాక్సెస్ మరియు బిల్లింగ్‌ను నిర్ణయిస్తాయి. మీ బ్యాలెన్స్ మరియు అర్హతను తనిఖీ చేయడానికి మీ కన్సోల్‌ను చూడండి.

nemotron ఏ ఇన్‌పుట్‌లు మరియు అవుట్‌పుట్‌లను మద్దతు ఇస్తుంది?

ఇన్‌పుట్‌లు: టెక్స్ట్. అవుట్‌పుట్‌లు: టెక్స్ట్. ఈ సామర్థ్యాలు ఎంపిక చేసిన మోడల్ ట్యాగ్‌కు వర్తిస్తాయి. మద్దతు ఉన్న అభ్యర్థన ఫార్మాట్‌ల కోసం ఎండ్‌పాయింట్ డాక్యుమెంటేషన్‌ను తనిఖీ చేయండి.

nemotron యొక్క కాంటెక్స్ట్ పొడవు ఎంత?

ఈ ట్యాగ్‌కు 131,072 టోకెన్ల కాంటెక్స్ట్ విండో ఉంది. కాంటెక్స్ట్ పరిమాణం మరియు ధరల పరిమితులు వేర్వేరు. నిర్దిష్ట డిప్లాయ్‌మెంట్ కోసం అభ్యర్థన పరిమితులు తక్కువగా ఉండవచ్చు.

nemotron టూల్ కాలింగ్ మరియు స్ట్రక్చర్డ్ అవుట్‌పుట్‌లను మద్దతు ఇస్తుందా?

టూల్ కాలింగ్: మద్దతు ఉంది.

ShareAIతో nemotronను ఎలా ఉపయోగించాలి?

ShareAI Consoleలో API కీని సృష్టించండి, మోడల్ ట్యాగ్‌ను ఎంచుకోండి, మరియు Quick Startలో ఎండ్‌పాయింట్‌కు ధృవీకరించిన అభ్యర్థనను పంపండి. మీ కీ ఎంచుకున్న మోడల్‌కు యాక్సెస్ కలిగి ఉండాలి. మీ కీని మీ సర్వర్‌లో ఉంచండి.