Isang natutuklasang alok
Tulungan ang mga Builder na maunawaan ang mga modelo at patakaran na iyong ibinibigay.
Para sa mga inference provider
Ang iyong inference service.Nakakonekta sa mas maraming builder.
Gawing available ang mga suportadong modelo at inference capacity sa pamamagitan ng ShareAI marketplace, kung saan natutuklasan ng mga aplikasyon ang mga provider at niruruta ang mga kahilingan sa AI.
Ang iyong imprastraktura. Ang iyong papel sa network.
Mga Aplikasyon
Mga Modelo at mga Provider
Mga Kahilingan sa Inference
IbahagiAII-route · i-meter · i-bill
ANG IYONG AMBAGNakakonektang paggamit at mga pagbabayad
01
KumonektaDalhin ang kwalipikadong imprastraktura
02
I-configurePiliin ang mga suportadong alok
03
MaglingkodMag-ambag sa routed inference
04
SubaybayanSuriin ang iyong mga gantimpala bilang Provider
Ang bahagi na sulit lutasin
Ang isang endpoint ay kailangan pa ng distribusyon.
Ang paglilingkod sa isang modelo ay isang gawain. Ang pag-abot sa mga aplikasyon na nangangailangan nito at pamamahala sa patuloy na paggamit ay isa pa.
Isang mas malinaw na model
Abutin ang mga aplikasyon kung saan nila pinipili ang mga modelo.
Gamitin ang Provider workspace upang i-configure ang iyong alok at tuklasin kung paano lumalabas ang mga suportadong modelo sa pampublikong katalogo.
Kung saan ito akma
Isang ambag na nag-uugnay.
Isang karaniwang landas ng integrasyon
Makilahok sa parehong routing layer na ginagamit ng mga aplikasyon.
Ekonomiya ng Provider
Ang iyong kita ay nagmumula sa kwalipikadong inference capacity, hiwalay sa margin ng Builder.
Gamitin ang iyong GPU para magtrabaho
Ano ang maaaring hitsura ng iyong kapasidad?
Piliin ang iyong GPU, itakda ang iyong mga rate at alamin kung magkano ang halaga ng isang fully booked na iskedyul.
Tinatayang batay sa RTX 3080Tinatayang 140 output tokens bawat segundo, bawat GPU.
Hanggang 24
Modelo, bilis at job load
Reference na modeloLlama 2 7B · Q4_0
Maikling kahilingan: 512 input tokens at 128 output tokens. Ang bawat GPU ay humahawak ng isang kahilingan sa bawat pagkakataon.
May sarili kang benchmark? Palitan ang parehong bilis. Ang pagpili ng ibang GPU ay ibabalik ang mga reference na halaga nito.
Ang 100% ay nangangahulugang ang mga kahilingan ay tuloy-tuloy na dumarating sa loob ng iyong napiling oras. Ibaba ito upang isaalang-alang ang idle time.
Ang mga nai-publish na bilis ay mula sa mga community llama.cpp tests na may Flash Attention off. Ang preset ng RTX 3080 Ti ay gumagamit ng reference ng RTX 3080; ito ay isang approximation, hindi isang nasukat na resulta ng 3080 Ti.
Ang input processing at output generation ay nagbabahagi ng parehong time budget. Ang tunay na throughput ay nakadepende rin sa context, software at request overhead. Ang isang buwan ay 30 araw, na inuulit ang iyong lingguhang iskedyul.
Tingnan ang mga pinagmulan ng benchmark$54.28bawat 30-araw na buwan
Sa 100% job load
Tinatayang kabuuan, bago ang kuryente, bayarin at buwis.
310.2M mga input na token$31.02
77.5M mga output na token$23.26
Ang iyong lingguhang iskedyul40 GPU-oras
Ang iyong nakaplanong availabilityNatitirang bahagi ng araw
5 araw ang napili1 GPU × 8 oras × 5 araw
Ito ay isang synthetic na senaryo, hindi isang payout offer. Ang aktwal na serving at Rewards ay nakadepende sa eligibility, demand at mga tuntunin ng programa. Ang Exchange at Mission ay may sariling mga insentibo.
Bago ka kumonekta
Malinaw na mga sagot.
Isang kapaki-pakinabang na susunod na hakbang.
Makipag-usap sa aming koponanPaano naiiba ang isang Builder mula sa isang Provider?
Ang isang Builder ay kumikita mula sa AI traffic ng application na kanilang pagmamay-ari. Ang isang Provider ay nag-aambag ng kwalipikadong compute upang maglingkod sa network. Ang kanilang kita ay nagmumula sa iba't ibang kontribusyon.
Saan ako magsisimula?
Buksan ang Provider workspace upang suriin ang mga kinakailangan at i-configure ang iyong alok. Gamitin ang pampublikong catalog upang maunawaan kung paano ipinapakita ang mga modelo at patakaran ng provider.
Ang ShareAI ba ang gumagawa o nagho-host ng aking aplikasyon?
Ang iyong application ay binuo at naka-host ng iyong team. Ang ShareAI ang nagbibigay ng routing, paggamit, at payment layer para sa inference na dumadaan sa network.
Ikonekta ang iyong kontribusyon