Huduma inayoweza kugunduliwa
Saidia Builders kuelewa miundo na sera unazotoa.
Kwa watoa huduma wa inference
Huduma yako ya inference.Imeunganishwa na wajenzi zaidi.
Fanya mifano inayoungwa mkono na uwezo wa inference kupatikana kupitia soko la ShareAI, ambapo programu zinagundua watoa huduma na kupitisha maombi ya AI.
Miundombinu yako. Nafasi yako katika mtandao.
Programu
Miundo & watoa huduma
Maombi ya inference
ShirikiAIElekeza · pima · lipisha
MCHANGO WAKOMatumizi na malipo yaliyounganishwa
01
UnganishaLeta miundombinu inayostahiki
02
SanidiChagua huduma zinazoungwa mkono
03
HudumiaChangia kwenye inference inayopitishwa
04
FuataKagua zawadi zako kama Provider
Sehemu inayostahili kutatuliwa
Endpoint bado inahitaji usambazaji.
Kuhudumia muundo ni kazi moja. Kufikia programu zinazouhitaji na kusimamia matumizi endelevu ni kazi nyingine.
Modeli iliyo wazi zaidi
Kutana na programu pale zinapochagua miundo.
Tumia workspace ya Provider kusanidi huduma yako na kuchunguza jinsi miundo inayoungwa mkono inavyoonekana kwenye orodha ya umma.
Mahali inafaa
Mchango unaounganisha.
Njia ya kawaida ya ujumuishaji
Shiriki kwenye safu ya usambazaji inayotumiwa na programu.
Uchumi wa Provider
Mapato yako yanatokana na uwezo wa inference unaostahiki, tofauti na faida za Builder.
Weka GPU yako ifanye kazi
Je, uwezo wako ungeweza kuonekana vipi?
Chagua GPU yako, weka viwango vyako na ujue thamani ya ratiba iliyojazwa kikamilifu inaweza kuwa kiasi gani.
Makadirio yanayotegemea RTX 3080Takriban tokeni za pato 140 kwa sekunde, kwa kila GPU.
Hadi 24
Mfano, kasi & mzigo wa kazi
Mfano wa kumbukumbuLlama 2 7B · Q4_0
Maombi mafupi: tokeni za ingizo 512 na tokeni za pato 128. Kila GPU hushughulikia ombi moja kwa wakati mmoja.
Una kigezo chako mwenyewe? Badilisha kasi zote mbili. Kuchagua GPU nyingine kunarejesha thamani zake za kumbukumbu.
100% inamaanisha maombi yanafika mfululizo wakati wote wa saa ulizochagua. Punguza ili kuzingatia muda wa kusubiri.
Kasi zilizochapishwa zinatokana na majaribio ya jamii ya llama.cpp bila Flash Attention. Kigezo cha RTX 3080 Ti kinatumia kumbukumbu ya RTX 3080; ni makadirio, si matokeo halisi ya RTX 3080 Ti.
Usindikaji wa ingizo na uzalishaji wa pato vinashiriki bajeti ya muda sawa. Ufanisi halisi pia unategemea muktadha, programu na muda wa maombi. Mwezi una siku 30, na ratiba yako ya kila wiki inarudiwa.
Tazama vyanzo vya kigezo$54.28kwa mwezi wa siku 30
Kwa mzigo wa kazi wa 100%
Makadirio ya jumla, kabla ya gharama za umeme, ada na kodi.
Tokeni za ingizo milioni 310.2$31.02
Tokeni za pato milioni 77.5$23.26
Ratiba yako ya kila wiki40 GPU-saa
Upatikanaji wako uliopangwaSehemu iliyobaki ya siku
Siku 5 zimechaguliwaGPU 1 × saa 8 × siku 5
Hii ni hali ya mfano, si ofa ya malipo. Huduma halisi na Tuzo zinategemea kustahiki, mahitaji na masharti ya programu. Exchange na Mission zina motisha zao wenyewe.
Builder ni tofauti vipi na Provider?
Builder hupata mapato kutokana na trafiki ya AI kutoka kwa programu wanayomiliki. Provider huchangia uwezo wa kompyuta unaostahiki kuhudumia mtandao. Mapato yao hutokana na michango tofauti.
Nianzie wapi?
Fungua workspace ya Provider ili kukagua mahitaji na kusanidi ofa yako. Tumia katalogi ya umma kuelewa jinsi modeli na sera za watoa huduma zinavyowasilishwa.
Je, ShareAI inajenga au kuhifadhi programu yangu?
Programu yako imejengwa na kuendeshwa na timu yako. ShareAI hutoa safu ya usambazaji, matumizi na malipo kwa inference inayosambazwa kupitia mtandao.
Unganisha mchango wako