یک پیشنهاد قابل کشف
به سازندگان کمک کنید مدلها و سیاستهایی که ارائه میدهید را درک کنند.
برای ارائهدهندگان استنتاج
مدلهای پشتیبانیشده و ظرفیت استنتاج را از طریق بازار ShareAI در دسترس قرار دهید، جایی که برنامهها ارائهدهندگان را کشف کرده و درخواستهای هوش مصنوعی را مسیریابی میکنند.
اتصالزیرساخت واجد شرایط را بیاورید
پیکربندیپیشنهادات پشتیبانیشده را انتخاب کنید
ارائه دهیددر استنتاج مسیریابیشده مشارکت کنید
پیگیری کنیدپاداشهای ارائهدهنده خود را بررسی کنید
بخشی که ارزش حل کردن دارد
ارائه یک مدل یک وظیفه است. رسیدن به برنامههایی که به آن نیاز دارند و مدیریت استفاده مداوم، وظیفه دیگری است.
مدلی شفافتر
از فضای کاری ارائهدهنده برای پیکربندی پیشنهاد خود استفاده کنید و ببینید چگونه مدلهای پشتیبانیشده در کاتالوگ عمومی ظاهر میشوند.
جایی که مناسب است
به سازندگان کمک کنید مدلها و سیاستهایی که ارائه میدهید را درک کنند.
در همان لایه مسیریابی که توسط برنامهها استفاده میشود شرکت کنید.
درآمد شما از ظرفیت استنتاج واجد شرایط حاصل میشود، که از حاشیههای سازنده متمایز است.
GPU خود را به کار بگیرید
GPU خود را انتخاب کنید، نرخهای خود را تنظیم کنید و ببینید یک برنامه کامل چقدر میتواند ارزش داشته باشد.
مدل مرجعLlama 2 7B · Q4_0
درخواستهای کوتاه: 512 توکن ورودی و 128 توکن خروجی. هر GPU یک درخواست را در یک زمان پردازش میکند.
معیار خود را دارید؟ هر دو سرعت را جایگزین کنید. انتخاب GPU دیگر مقادیر مرجع آن را بازیابی میکند.
100% به این معناست که درخواستها به طور مداوم در طول ساعات انتخابی شما میرسند. برای در نظر گرفتن زمان بیکاری، آن را کاهش دهید.
سرعتهای منتشرشده از آزمایشهای جامعه llama.cpp با Flash Attention خاموش به دست آمدهاند. پیشفرض RTX 3080 Ti از مرجع RTX 3080 استفاده میکند؛ این یک تخمین است، نه نتیجه اندازهگیریشده RTX 3080 Ti.
پردازش ورودی و تولید خروجی زمان بودجه یکسانی را به اشتراک میگذارند. توان واقعی همچنین به زمینه، نرمافزار و سربار درخواست بستگی دارد. یک ماه 30 روز است و برنامه هفتگی شما تکرار میشود.
مشاهده منابع معیاربا بار کاری 100%
برآورد ناخالص، قبل از هزینه برق، کارمزدها و مالیات.
این یک سناریوی مصنوعی است، نه یک پیشنهاد پرداخت. ارائه واقعی و پاداشها به شرایط واجد شرایط بودن، تقاضا و شرایط برنامه بستگی دارد. Exchange و Mission مشوقهای خود را دارند.
یک Builder ترافیک AI را از برنامهای که مالک آن است، درآمدزایی میکند. یک Provider محاسبات واجد شرایط را برای خدمت به شبکه ارائه میدهد. درآمد آنها از مشارکتهای مختلف حاصل میشود.
فضای کاری Provider را باز کنید تا الزامات را بررسی کرده و پیشنهاد خود را پیکربندی کنید. از کاتالوگ عمومی استفاده کنید تا بفهمید مدلها و سیاستهای ارائهدهنده چگونه ارائه میشوند.
برنامه شما توسط تیم شما ساخته و میزبانی میشود. ShareAI لایه مسیریابی، استفاده و پرداخت را برای استنتاجی که از طریق شبکه مسیریابی میشود، فراهم میکند.
مشارکت خود را متصل کنید