AI Prosumer
TL

Para sa mga may-ari ng GPU at mga inference provider

Ikaw ang magdadala ng kapasidad.Ikonekta ito sa pangangailangan ng AI.

Gawing available ang eligible compute sa ShareAI network. Maglingkod ng routed inference at subaybayan ang mga gantimpala ng Provider na nabuo mula sa iyong kontribusyon.

Ang iyong imprastraktura. Ang iyong papel sa network.
Ang iyong imprastrakturaPinapatakbo ng iyong team
Kwalipikadong kapasidad
Mga suportadong modelo
Mga patakaran ng provider
IbahagiAII-route · i-meter · i-bill
ANG IYONG AMBAGIkonekta sa pangangailangan
01

KumonektaDalhin ang kwalipikadong imprastraktura

02

I-configurePiliin ang mga suportadong alok

03

MaglingkodMag-ambag sa routed inference

04

SubaybayanSuriin ang iyong mga gantimpala bilang Provider

Ang bahagi na sulit lutasin

Ang kapasidad ay nangangailangan ng ruta patungo sa demand.

Ang pagmamay-ari ng imprastraktura ay bahagi lamang ng trabaho. Mahalaga rin ang paggawa nitong magamit, paglilingkod sa mga kahilingan, at pag-unawa sa kontribusyon nito.

Isang mas malinaw na model

Dalhin ang iyong imprastraktura sa network.

Alamin ang mga kinakailangan ng Provider, ikonekta ang suportadong kapasidad, at pamahalaan ang iyong partisipasyon sa pamamagitan ng Console.

Kung saan ito akma

Isang ambag na nag-uugnay.

01

Ang iyong imprastraktura

Dalhin ang compute na pinapatakbo mo sa Provider setup.

02

Inference na nakaruta

Maglingkod ng eligible workloads sa pamamagitan ng ShareAI network.

03

Nakikitang kontribusyon

Subaybayan ang paggamit at gantimpala sa iyong Provider workspace.

Gamitin ang iyong GPU para magtrabaho

Ano ang maaaring hitsura ng iyong kapasidad?

Piliin ang iyong GPU, itakda ang iyong mga rate at alamin kung magkano ang halaga ng isang fully booked na iskedyul.

Tinatayang batay sa RTX 3080Tinatayang 140 output tokens bawat segundo, bawat GPU.
8 orasHanggang 24
Mga araw na maaari kang mag-ambag
Ang iyong mga rate bawat 1M tokens USD

Halimbawa ng mga rate. Ipasok ang mga presyo na binabayaran para sa iyong compute.

Modelo, bilis at job load

Reference na modeloLlama 2 7B · Q4_0

Maikling kahilingan: 512 input tokens at 128 output tokens. Ang bawat GPU ay humahawak ng isang kahilingan sa bawat pagkakataon.

May sarili kang benchmark? Palitan ang parehong bilis. Ang pagpili ng ibang GPU ay ibabalik ang mga reference na halaga nito.

Ang 100% ay nangangahulugang ang mga kahilingan ay tuloy-tuloy na dumarating sa loob ng iyong napiling oras. Ibaba ito upang isaalang-alang ang idle time.

Ang mga nai-publish na bilis ay mula sa mga community llama.cpp tests na may Flash Attention off. Ang preset ng RTX 3080 Ti ay gumagamit ng reference ng RTX 3080; ito ay isang approximation, hindi isang nasukat na resulta ng 3080 Ti.

Ang input processing at output generation ay nagbabahagi ng parehong time budget. Ang tunay na throughput ay nakadepende rin sa context, software at request overhead. Ang isang buwan ay 30 araw, na inuulit ang iyong lingguhang iskedyul.

Tingnan ang mga pinagmulan ng benchmark
Potensyal na compute revenueUSDLlama 2 7B · Q4_0
$54.28bawat 30-araw na buwan

Sa 100% job load

Tinatayang kabuuan, bago ang kuryente, bayarin at buwis.

310.2M mga input na token$31.02
77.5M mga output na token$23.26
Ang iyong lingguhang iskedyul40 GPU-oras
Ang iyong nakaplanong availabilityNatitirang bahagi ng araw
5 araw ang napili1 GPU × 8 oras × 5 araw

Ito ay isang synthetic na senaryo, hindi isang payout offer. Ang aktwal na serving at Rewards ay nakadepende sa eligibility, demand at mga tuntunin ng programa. Ang Exchange at Mission ay may sariling mga insentibo.

Bago ka kumonekta

Malinaw na mga sagot.
Isang kapaki-pakinabang na susunod na hakbang.

Makipag-usap sa aming koponan
Paano naiiba ang isang Builder mula sa isang Provider?

Ang isang Builder ay kumikita mula sa AI traffic ng application na kanilang pagmamay-ari. Ang isang Provider ay nag-aambag ng kwalipikadong compute upang maglingkod sa network. Ang kanilang kita ay nagmumula sa iba't ibang kontribusyon.

Saan ako magsisimula?

Buksan ang Provider workspace upang suriin ang mga kinakailangan at i-configure ang iyong alok. Gamitin ang pampublikong catalog upang maunawaan kung paano ipinapakita ang mga modelo at patakaran ng provider.

Ang ShareAI ba ang gumagawa o nagho-host ng aking aplikasyon?

Ang iyong application ay binuo at naka-host ng iyong team. Ang ShareAI ang nagbibigay ng routing, paggamit, at payment layer para sa inference na dumadaan sa network.

Ikonekta ang iyong kontribusyon

Dalhin ang iyong kapasidad.
Tuklasin ang network.

Buksan ang ProviderI-explore ang dokumentasyon