ایک قابل دریافت پیشکش
Builders کو سمجھنے میں مدد کریں کہ آپ کون سے ماڈلز اور پالیسیاں فراہم کرتے ہیں۔
انفرنس پرووائیڈرز کے لیے
آپ کی انفرنس سروس۔مزید بلڈرز سے جڑی ہوئی۔
ShareAI مارکیٹ پلیس کے ذریعے سپورٹڈ ماڈلز اور انفرنس کی صلاحیت دستیاب کریں، جہاں ایپلیکیشنز پرووائیڈرز کو دریافت کرتی ہیں اور AI درخواستوں کو روٹ کرتی ہیں۔
آپ کا انفراسٹرکچر۔ نیٹ ورک میں آپ کا کردار۔
ایپلیکیشنز
ماڈلز اور فراہم کنندگان
انفرنس درخواستیں
شیئر اے آئیروٹ · میٹر · بل
آپ کی شراکتمنسلک استعمال اور ادائیگیاں
01
کنیکٹ کریںاہل انفراسٹرکچر لائیں
02
تشکیل دیںمعاون پیشکشیں منتخب کریں
03
خدمت کریںروٹڈ انفرنس میں حصہ ڈالیں
04
ٹریک کریںاپنے Provider انعامات کا جائزہ لیں
وہ حصہ جو حل کرنے کے قابل ہے
ایک اینڈپوائنٹ کو ابھی بھی تقسیم کی ضرورت ہے۔
ماڈل کی خدمت کرنا ایک کام ہے۔ ان ایپلیکیشنز تک پہنچنا جو اسے ضرورت ہے اور جاری استعمال کو منظم کرنا دوسرا کام ہے۔
ایک واضح ماڈل
ایپلیکیشنز سے وہاں ملاقات کریں جہاں وہ ماڈلز منتخب کرتے ہیں۔
Provider ورک اسپیس استعمال کریں تاکہ اپنی پیشکش کو ترتیب دیں اور دیکھیں کہ معاون ماڈلز عوامی کیٹلاگ میں کیسے ظاہر ہوتے ہیں۔
جہاں یہ موزوں ہو
ایک شراکت جو جڑتی ہے۔
ایک عام انٹیگریشن راستہ
ان ہی روٹنگ لیئر میں حصہ لیں جو ایپلیکیشنز استعمال کرتی ہیں۔
Provider معاشیات
آپ کی آمدنی اہل انفرنس صلاحیت سے آتی ہے، جو Builder مارجنز سے مختلف ہے۔
اپنے GPU کو کام پر لگائیں
آپ کی صلاحیت کیسی دکھائی دے سکتی ہے؟
اپنا GPU منتخب کریں، اپنی شرحیں مقرر کریں اور معلوم کریں کہ مکمل بکنگ شیڈول کی قیمت کیا ہو سکتی ہے۔
RTX 3080 پر مبنی تخمینہتقریباً 140 آؤٹ پٹ ٹوکن فی سیکنڈ، فی GPU۔
24 تک
ماڈل، رفتار اور جاب لوڈ
حوالہ ماڈلLlama 2 7B · Q4_0
مختصر درخواستیں: 512 ان پٹ ٹوکن اور 128 آؤٹ پٹ ٹوکن۔ ہر GPU ایک وقت میں ایک درخواست کو ہینڈل کرتا ہے۔
کیا آپ کے پاس اپنا بینچ مارک ہے؟ دونوں رفتار کو تبدیل کریں۔ دوسرا GPU منتخب کرنے سے اس کے حوالہ اقدار بحال ہو جائیں گے۔
100% کا مطلب ہے کہ درخواستیں آپ کے منتخب کردہ گھنٹوں کے دوران مسلسل آتی ہیں۔ اسے فارغ وقت کو مدنظر رکھنے کے لیے کم کریں۔
شائع شدہ رفتار کمیونٹی کے llama.cpp ٹیسٹ سے Flash Attention بند کے ساتھ آتی ہیں۔ RTX 3080 Ti پریسیٹ RTX 3080 حوالہ استعمال کرتا ہے؛ یہ ایک تخمینہ ہے، 3080 Ti کا پیمائش شدہ نتیجہ نہیں۔
ان پٹ پروسیسنگ اور آؤٹ پٹ جنریشن ایک ہی وقت کے بجٹ کو شیئر کرتے ہیں۔ حقیقی تھروپٹ سیاق و سباق، سافٹ ویئر اور درخواست کے اوور ہیڈ پر بھی منحصر ہے۔ ایک مہینہ 30 دن کا ہوتا ہے، آپ کے ہفتہ وار شیڈول کو دہرایا جاتا ہے۔
بینچ مارک ذرائع دیکھیں$54.28فی 30 دن کا مہینہ
100% جاب لوڈ پر
مجموعی تخمینہ، بجلی، فیس اور ٹیکس سے پہلے۔
310.2M ان پٹ ٹوکن$31.02
77.5M آؤٹ پٹ ٹوکن$23.26
آپ کا ہفتہ وار شیڈول40 GPU-گھنٹے
آپ کی منصوبہ بندی شدہ دستیابیدن کے باقی حصے
5 دن منتخب کیے گئے1 GPU × 8 گھنٹے × 5 دن
یہ ایک مصنوعی منظر نامہ ہے، ادائیگی کی پیشکش نہیں۔ اصل سروس اور انعامات اہلیت، طلب اور پروگرام کی شرائط پر منحصر ہیں۔ ایکسچینج اور مشن کے اپنے مراعات ہیں۔
Builder اور Provider میں کیا فرق ہے؟
ایک Builder اپنی ملکیت والی ایپلیکیشن سے AI ٹریفک کو مونیٹائز کرتا ہے۔ ایک Provider نیٹ ورک کی خدمت کے لیے اہل کمپیوٹ فراہم کرتا ہے۔ ان کی آمدنی مختلف شراکتوں سے آتی ہے۔
مجھے کہاں سے شروع کرنا چاہیے؟
Provider ورک اسپیس کھولیں تاکہ ضروریات کا جائزہ لیں اور اپنی پیشکش کو ترتیب دیں۔ عوامی کیٹلاگ استعمال کریں تاکہ سمجھ سکیں کہ ماڈلز اور Provider پالیسیاں کیسے پیش کی جاتی ہیں۔
کیا ShareAI میری ایپلیکیشن بناتا یا ہوسٹ کرتا ہے؟
آپ کی ایپلیکیشن آپ کی ٹیم کے ذریعے بنائی اور ہوسٹ کی گئی ہے۔ ShareAI نیٹ ورک کے ذریعے انفرنس کے لیے روٹنگ، استعمال اور ادائیگی کی تہہ فراہم کرتا ہے۔
اپنی شراکت کو جوڑیں