granite3.1-dense
ibm/granite3.1-dense:2b-instruct-q3_k_sIBM Granite 2B এবং 8B মডেলগুলি টেক্সট-অনলি ডেন্স LLM যা ১২ ট্রিলিয়ন টোকেনের বেশি ডেটা দিয়ে প্রশিক্ষিত, IBM-এর প্রাথমিক পরীক্ষায় তাদের পূর্বসূরিদের তুলনায় কার্যক্ষমতা এবং গতিতে উল্লেখযোগ্য উন্নতি প্রদর্শন করেছে।
- ইনপুট → আউটপুট
- টেক্সট টেক্সট
- অ্যাক্সেস
- টোকেন বিনিময়
- কনটেক্সট উইন্ডো
- 131,072 টোকেন
- মডেল ট্যাগ
- 33 উপলব্ধ সংস্করণগুলি
মডেল থেকে অ্যাপ্লিকেশনে
দ্রুত শুরু
আপনার API কী পান
ShareAI কনসোলে একটি কী তৈরি করুন, তারপর এটি আপনার সার্ভারে একটি পরিবেশ ভেরিয়েবল হিসেবে সংরক্ষণ করুন।
API কী তৈরি করুনexport SHAREAI_API_KEY="your-api-key"আপনার এন্ডপয়েন্ট নির্বাচন করুন
আপনার API কী Authorization হেডারে পাঠিয়ে একটি POST অনুরোধ পাঠান।
পোস্টhttps://api.shareai.now/api/v1/chat/completionsএই ট্যাগের এন্ডপয়েন্ট নিশ্চিত করা হয়নি। অনুরোধ পাঠানোর আগে API রেফারেন্স এবং আপনার কনসোল পরীক্ষা করুন।.
আপনার প্রথম অনুরোধ করুন
উদাহরণগুলি আপনার নির্বাচিত ট্যাগ ব্যবহার করে এবং এর অনুরোধ ফরম্যাট দেখায়। আপনার API কী ব্যক্তিগত রাখতে এগুলি আপনার সার্ভারে চালান। আপনি যখন একটি অনুরোধ পাঠান, তখন মডেলের প্রাপ্যতা এবং অ্যাকাউন্ট অ্যাক্সেস পরীক্ষা করা হয়।.
curl --fail-with-body --request POST 'https://api.shareai.now/api/v1/chat/completions' \ --header "Authorization: Bearer ${SHAREAI_API_KEY}" \ --header 'Content-Type: application/json' \ --data-raw '{ "model": "ibm/granite3.1-dense:2b-instruct-q3_k_s", "messages": [ { "role": "user", "content": "Hello!" } ], "stream": false }'import json import os import urllib.request payload = { "model": "ibm/granite3.1-dense:2b-instruct-q3_k_s", "messages": [ { "role": "user", "content": "Hello!", }, ], "stream": False, } request = urllib.request.Request("https://api.shareai.now/api/v1/chat/completions", data=json.dumps(payload).encode(), headers={ "Authorization": f"Bearer {os.environ['SHAREAI_API_KEY']}", "Content-Type": "application/json", }, method="POST", ) with urllib.request.urlopen(request, timeout=180) as response: print(json.dumps(json.load(response), indent=2))package main import ( "bytes" "encoding/json" "fmt" "io" "net/http" "os" "time" ) func main() { if err := run(); err != nil { fmt.Fprintln(os.Stderr, err) os.Exit(1) } } func run() error { key := os.Getenv("SHAREAI_API_KEY") if key == "" { return fmt.Errorf("set SHAREAI_API_KEY") } body := []byte(`{ "model": "ibm/granite3.1-dense:2b-instruct-q3_k_s", "messages": [ { "role": "user", "content": "Hello!" } ], "stream": false }`) request, err := http.NewRequest(http.MethodPost, "https://api.shareai.now/api/v1/chat/completions", bytes.NewReader(body)) if err != nil { return err } request.Header.Set("Authorization", "Bearer " + key) request.Header.Set("Content-Type", "application/json") client := &http.Client{Timeout: 180 * time.Second} response, err := client.Do(request) if err != nil { return err } defer response.Body.Close() if response.StatusCode < 200 || response.StatusCode >= 300 { detail, _ := io.ReadAll(io.LimitReader(response.Body, 1<<20)) return fmt.Errorf("ShareAI HTTP %d: %s", response.StatusCode, detail) } var result any if err := json.NewDecoder(response.Body).Decode(&result); err != nil { return err } encoder := json.NewEncoder(os.Stdout) encoder.SetIndent("", " ") return encoder.Encode(result) }main.go হিসেবে সংরক্ষণ করুন এবং go run main.go চালান। এই উদাহরণটি Go স্ট্যান্ডার্ড লাইব্রেরি ব্যবহার করে।.
Rust নির্ভরতা সেট আপ করুন
আপনার Cargo প্রকল্পে এই নির্ভরতাগুলি যোগ করুন। উদাহরণটি src/main.rs হিসেবে সংরক্ষণ করুন, তারপর cargo run চালান।.
cargo add [email protected] --no-default-features --features blocking,json,rustls-tls cargo add serde_json@1fn main() -> Result<(), Box<dyn std::error::Error>> { let api_key = std::env::var("SHAREAI_API_KEY")?; let payload: serde_json::Value = serde_json::from_str(r#"{ "model": "ibm/granite3.1-dense:2b-instruct-q3_k_s", "messages": [ { "role": "user", "content": "Hello!" } ], "stream": false }"#)?; let client = reqwest::blocking::Client::builder() .timeout(std::time::Duration::from_secs(180)) .build()?; let response = client.post(r#"https://api.shareai.now/api/v1/chat/completions"#) .bearer_auth(api_key) .json(&payload) .send()? .error_for_status()?; let result: serde_json::Value = response.json()?; println!("{}", serde_json::to_string_pretty(&result)?); Ok(()) }const payload = { "model": "ibm/granite3.1-dense:2b-instruct-q3_k_s", "messages": [ { "role": "user", "content": "Hello!" } ], "stream": false }; const response = await fetch("https://api.shareai.now/api/v1/chat/completions", { method: 'POST', headers: { Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`, 'Content-Type': 'application/json', }, body: JSON.stringify(payload), }); if (!response.ok) throw new Error(await response.text()); console.log(JSON.stringify(await response.json(), null, 2));
টোকেন বিনিময়
টোকেন এক্সচেঞ্জের মাধ্যমে উপলব্ধ
আপনার টোকেন ব্যালেন্স ব্যবহার করে নেটওয়ার্ক ব্যবহার করুন। আপনার অ্যাকাউন্টের খরচ সেটিংস নির্ধারণ করে অনুরোধগুলি কীভাবে বিল করা হবে।
আরও কিছু বিস্তারিত
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
granite3.1-dense কী?
IBM Granite 2B এবং 8B মডেলগুলি টেক্সট-অনলি ডেন্স LLM যা ১২ ট্রিলিয়ন টোকেনের বেশি ডেটা দিয়ে প্রশিক্ষিত, IBM-এর প্রাথমিক পরীক্ষায় তাদের পূর্বসূরিদের তুলনায় কার্যক্ষমতা এবং গতিতে উল্লেখযোগ্য উন্নতি প্রদর্শন করেছে।
granite3.1-dense এর খরচ কত?
এই ট্যাগটি Token Exchange এর মাধ্যমে উপলব্ধ। আপনার টোকেন ব্যালেন্স এবং অ্যাকাউন্ট ব্যবহারের সেটিংস অ্যাক্সেস এবং বিলিং নির্ধারণ করে। আপনার ব্যালেন্স এবং যোগ্যতা যাচাই করতে Console চেক করুন।
granite3.1-dense কোন ইনপুট এবং আউটপুট সমর্থন করে?
ইনপুট: টেক্সট। আউটপুট: টেক্সট। এই সক্ষমতাগুলি নির্বাচিত মডেল ট্যাগের জন্য প্রযোজ্য। সমর্থিত অনুরোধ ফরম্যাটের জন্য এন্ডপয়েন্ট ডকুমেন্টেশন চেক করুন।
granite3.1-dense এর কনটেক্সট দৈর্ঘ্য কত?
এই ট্যাগটির কনটেক্সট উইন্ডো ১৩১,০৭২ টোকেনের। কনটেক্সট আকার এবং মূল্য নির্ধারণের সীমা আলাদা। নির্দিষ্ট ডিপ্লয়মেন্টের জন্য অনুরোধ সীমা কম হতে পারে।
granite3.1-dense কি টুল কলিং এবং স্ট্রাকচার্ড আউটপুট সমর্থন করে?
টুল কলিং: সমর্থিত।
আমি কীভাবে granite3.1-dense কে ShareAI এর সাথে ব্যবহার করব?
ShareAI Console-এ একটি API কী তৈরি করুন, একটি মডেল ট্যাগ নির্বাচন করুন এবং Quick Start-এ এন্ডপয়েন্টে একটি প্রমাণীকৃত অনুরোধ পাঠান। আপনার কী-তে নির্বাচিত মডেলের অ্যাক্সেস থাকতে হবে। আপনার কী আপনার সার্ভারে রাখুন।