Miundombinu yako
Lete kompyuta unayoendesha kwenye usanidi wa Provider.
Kwa wamiliki wa GPU na watoa huduma za inference
Fanya kompyuta inayostahiki ipatikane kwenye mtandao wa ShareAI. Hudumia inference iliyopitishwa na fuatilia zawadi za Provider zinazotokana na mchango wako.
UnganishaLeta miundombinu inayostahiki
SanidiChagua huduma zinazoungwa mkono
HudumiaChangia kwenye inference inayopitishwa
FuataKagua zawadi zako kama Provider
Sehemu inayostahili kutatuliwa
Kumiliki miundombinu ni sehemu tu ya kazi. Kuifanya ipatikane, kuhudumia maombi na kuelewa mchango wake pia ni muhimu.
Modeli iliyo wazi zaidi
Chunguza mahitaji ya Provider, unganisha uwezo unaoungwa mkono na simamia ushiriki wako kupitia Console.
Mahali inafaa
Lete kompyuta unayoendesha kwenye usanidi wa Provider.
Hudumia mzigo wa kazi unaostahiki kupitia mtandao wa ShareAI.
Fuatilia matumizi na zawadi katika eneo lako la kazi la Provider.
Weka GPU yako ifanye kazi
Chagua GPU yako, weka viwango vyako na ujue thamani ya ratiba iliyojazwa kikamilifu inaweza kuwa kiasi gani.
Mfano wa kumbukumbuLlama 2 7B · Q4_0
Maombi mafupi: tokeni za ingizo 512 na tokeni za pato 128. Kila GPU hushughulikia ombi moja kwa wakati mmoja.
Una kigezo chako mwenyewe? Badilisha kasi zote mbili. Kuchagua GPU nyingine kunarejesha thamani zake za kumbukumbu.
100% inamaanisha maombi yanafika mfululizo wakati wote wa saa ulizochagua. Punguza ili kuzingatia muda wa kusubiri.
Kasi zilizochapishwa zinatokana na majaribio ya jamii ya llama.cpp bila Flash Attention. Kigezo cha RTX 3080 Ti kinatumia kumbukumbu ya RTX 3080; ni makadirio, si matokeo halisi ya RTX 3080 Ti.
Usindikaji wa ingizo na uzalishaji wa pato vinashiriki bajeti ya muda sawa. Ufanisi halisi pia unategemea muktadha, programu na muda wa maombi. Mwezi una siku 30, na ratiba yako ya kila wiki inarudiwa.
Tazama vyanzo vya kigezoKwa mzigo wa kazi wa 100%
Makadirio ya jumla, kabla ya gharama za umeme, ada na kodi.
Hii ni hali ya mfano, si ofa ya malipo. Huduma halisi na Tuzo zinategemea kustahiki, mahitaji na masharti ya programu. Exchange na Mission zina motisha zao wenyewe.
Builder hupata mapato kutokana na trafiki ya AI kutoka kwa programu wanayomiliki. Provider huchangia uwezo wa kompyuta unaostahiki kuhudumia mtandao. Mapato yao hutokana na michango tofauti.
Fungua workspace ya Provider ili kukagua mahitaji na kusanidi ofa yako. Tumia katalogi ya umma kuelewa jinsi modeli na sera za watoa huduma zinavyowasilishwa.
Programu yako imejengwa na kuendeshwa na timu yako. ShareAI hutoa safu ya usambazaji, matumizi na malipo kwa inference inayosambazwa kupitia mtandao.
Unganisha mchango wako