கண்டறியக்கூடிய ஒரு சேவை
நீங்கள் வழங்கும் மாதிரிகள் மற்றும் கொள்கைகளை உருவாக்குநர்கள் புரிந்துகொள்ள உதவுங்கள்.
inference Provider களுக்காக
உங்கள் inference சேவை.மேலும் Builders களுடன் இணைக்கப்பட்டுள்ளது.
ஆதரிக்கப்படும் மாதிரிகள் மற்றும் inference திறனை ShareAI சந்தையின் மூலம் கிடைக்கச் செய்யுங்கள், அங்கு பயன்பாடுகள் Provider களை கண்டறிந்து AI கோரிக்கைகளை வழிமாற்றுகின்றன.
உங்கள் உள்கட்டமைப்பு. நெட்வொர்க்கில் உங்கள் பங்கு.
பயன்பாடுகள்
மாதிரிகள் & வழங்குநர்கள்
தீர்மான கோரிக்கைகள்
ஷேர்AIவழிமாற்றம் · அளவிடுதல் · பில் செய்யுதல்
உங்கள் பங்களிப்புஇணைக்கப்பட்ட பயன்பாடு & கட்டணங்கள்
01
இணைக்கவும்தகுதியான உள்கட்டமைப்பை கொண்டு வாருங்கள்
02
அமைக்கவும்ஆதரிக்கப்படும் சேவைகளைத் தேர்ந்தெடுக்கவும்
03
சேவை செய்யவும்வழிமாற்றப்பட்ட தீர்மானத்திற்கு பங்களிக்கவும்
04
கண்காணிக்கவும்உங்கள் வழங்குநர் வெகுமதிகளை மதிப்பாய்வு செய்யவும்
தீர்க்க வேண்டிய பகுதி
ஒரு இறுதிப்புள்ளி இன்னும் விநியோகிக்கப்பட வேண்டும்.
ஒரு மாதிரியை சேவை செய்வது ஒரு பணி. அதைப் பயன்படுத்தும் பயன்பாடுகளை அடைவதும் தொடர்ச்சியான பயன்பாட்டை நிர்வகிப்பதும் வேறொரு பணி.
ஒரு தெளிவான மாடல்
மாதிரிகளைத் தேர்ந்தெடுக்கும் பயன்பாடுகளை சந்திக்கவும்.
உங்கள் வழங்கலை அமைக்கவும், பொதுக் பட்டியலில் ஆதரிக்கப்படும் மாதிரிகள் எப்படி தோன்றுகின்றன என்பதை ஆராயவும் வழங்குநர் பணிமனையைப் பயன்படுத்தவும்.
அது எங்கு பொருந்துகிறது
இணைக்கும் ஒரு பங்களிப்பு.
ஒரு பொதுவான ஒருங்கிணைப்பு பாதை
பயன்பாடுகள் பயன்படுத்தும் அதே வழிமாற்று அடுக்கு செயல்பாட்டில் பங்கேற்கவும்.
வழங்குநர் பொருளாதாரம்
உங்கள் வருவாய் தகுதியான தீர்மான திறனிலிருந்து வருகிறது, இது உருவாக்குநர் நிகர லாபத்திலிருந்து வேறுபட்டது.
உங்கள் GPU-ஐ வேலை செய்ய வையுங்கள்
உங்கள் திறன் எப்படி இருக்கலாம்?
உங்கள் GPU-ஐ தேர்ந்தெடுக்கவும், உங்கள் விகிதங்களை அமைக்கவும், முழுமையாக நிரம்பிய அட்டவணை எவ்வளவு மதிப்புடையது என்பதை கண்டறியவும்.
RTX 3080 அடிப்படையிலான மதிப்பீடுGPU ஒன்றுக்கு வினாடிக்கு சுமார் 140 வெளியீடு டோக்கன்கள்.
அதிகபட்சம் 24
மாதிரி, வேகம் & வேலைச்சுமை
குறிப்பு மாதிரிLlama 2 7B · Q4_0
குறுகிய கோரிக்கைகள்: 512 உள்ளீடு டோக்கன்கள் மற்றும் 128 வெளியீடு டோக்கன்கள். ஒவ்வொரு GPU-வும் ஒரே நேரத்தில் ஒரு கோரிக்கையை கையாளும்.
உங்களுக்கே சொந்தமான அளவுகோல் உள்ளதா? இரு வேகங்களையும் மாற்றவும். வேறு GPU ஒன்றைத் தேர்ந்தெடுப்பது அதன் குறிப்பு மதிப்புகளை மீண்டும் அமைக்கும்.
100% என்பது உங்கள் தேர்ந்தெடுக்கப்பட்ட நேரங்களில் கோரிக்கைகள் தொடர்ந்து வருவதை குறிக்கிறது. ஓய்வுநேரத்தை கணக்கில் எடுத்துக்கொள்ள அதை குறைக்கவும்.
வெளியிடப்பட்ட வேகங்கள் சமூக llama.cpp சோதனைகளிலிருந்து பெறப்பட்டவை, Flash Attention ஆஃப் நிலையில். RTX 3080 Ti முன்மாதிரி RTX 3080 குறிப்பை பயன்படுத்துகிறது; இது ஒரு மதிப்பீடு மட்டுமே, அளவிடப்பட்ட 3080 Ti முடிவல்ல.
உள்ளீடு செயலாக்கம் மற்றும் வெளியீடு உருவாக்கம் ஒரே நேரக் கட்டுப்பாட்டைப் பகிர்கின்றன. உண்மையான திறன் சூழல், மென்பொருள் மற்றும் கோரிக்கை மேலதிகச் செலவுகளின் அடிப்படையிலும் சார்ந்துள்ளது. ஒரு மாதம் 30 நாட்கள், உங்கள் வாராந்திர அட்டவணை மீண்டும் மீண்டும் பயன்படுத்தப்படும்.
அளவுகோல் மூலங்களைப் பார்க்கவும்$54.2830-நாள் மாதத்திற்கு
100% வேலைச்சுமையில்
மொத்த மதிப்பீடு, மின்சாரம், கட்டணங்கள் மற்றும் வரிகள் முன்.
310.2M உள்ளீடு டோக்கன்கள்$31.02
77.5M வெளியீடு டோக்கன்கள்$23.26
உங்கள் வாராந்திர அட்டவணை40 GPU-மணி
உங்கள் திட்டமிட்ட கிடைக்குமிடம்நாளின் மீதம்
5 நாட்கள் தேர்ந்தெடுக்கப்பட்டுள்ளன1 GPU × 8 மணி × 5 நாட்கள்
இது ஒரு செயற்கை சூழ்நிலை, ஒரு கட்டண சலுகை அல்ல. உண்மையான சேவை மற்றும் பரிசுகள் தகுதி, தேவை மற்றும் திட்ட விதிமுறைகளின் அடிப்படையில் இருக்கும். பரிமாற்றம் மற்றும் மிஷன் தங்களுக்கே உரிய ஊக்கங்களை கொண்டுள்ளன.
Builder ஒரு Provider ஐ விட எப்படி மாறுபடுகிறது?
ஒரு Builder, தமக்குச் சொந்தமான பயன்பாட்டிலிருந்து AI போக்குவரத்தை பணமாக்குகிறார். ஒரு Provider, வலையமைப்புக்கு தகுதியான கணிப்பொறியை வழங்குகிறார். அவர்களின் வருமானம் வெவ்வேறு பங்களிப்புகளிலிருந்து வருகிறது.
நான் எங்கு தொடங்க வேண்டும்?
வழங்குநர் பணிமனையைத் திறந்து தேவைகளை மதிப்பாய்வு செய்து உங்கள் வழங்கலை அமைக்கவும். பொதுக் பட்டியலைப் பயன்படுத்தி மாடல்கள் மற்றும் வழங்குநர் கொள்கைகள் எப்படி வழங்கப்படுகின்றன என்பதைப் புரிந்துகொள்ளவும்.
ShareAI என் செயலியை உருவாக்குகிறதா அல்லது ஹோஸ்ட் செய்கிறதா?
உங்கள் பயன்பாடு உங்கள் குழுவால் உருவாக்கப்பட்டு ஹோஸ்ட் செய்யப்படுகிறது. ShareAI வலையமைப்பின் மூலம் வழிநடத்தப்பட்ட inference க்கான வழிநடத்தல், பயன்பாடு மற்றும் கட்டண அடுக்கு வழங்குகிறது.
உங்கள் பங்களிப்பை இணைக்கவும்