சாதன தேவைகள்

ShareAI பயன்பாடு தானாகவே உங்கள் சாதனத்தின் GPU VRAM அடிப்படையில் பகிர்வதற்கு ஏற்ற AI மாதிரிகளை பரிந்துரைக்கிறது. உங்கள் பங்களிப்பை அதிகபட்சமாக்குவதுடன், சிறந்த செயல்திறனை உறுதிப்படுத்த உதவ, நாங்கள் இரண்டு வகையான தேவைகளைப் பயன்படுத்துகிறோம்:

1. பரிந்துரைக்கப்பட்ட தேவைகள்#

• மாதிரிகளை திறம்பட இயக்க தேவையான சிறந்த VRAM-ஐ இவை குறிக்கின்றன.
• உங்கள் GPU பரிந்துரைக்கப்பட்ட VRAM-ஐ பூர்த்தி செய்தால், நீங்கள் நல்ல செயல்திறனையும் சிறந்த பணியிடை வேகத்தையும் எதிர்பார்க்கலாம்.
• உங்கள் GPU பரிந்துரைக்கப்பட்ட VRAM-ஐ விட குறைவாக இருந்தால், நீங்கள் இன்னும் மாதிரியை நிறுவி இயக்கலாம், ஆனால் செயல்திறன் கணிசமாக மந்தமாக இருக்கலாம். உங்களின் சாதனம் சிறந்த நிலைகளுடன் ஒப்பிடும்போது ஒரு வினாடிக்கு குறைவான பணிகளை செயலாக்கும்.

2. குறைந்தபட்ச தேவைகள்#

• குறிப்பிட்ட மாதிரிகளை இயக்க உங்கள் GPU பூர்த்தி செய்ய வேண்டிய குறைந்த VRAM மதிப்புகள் இவை.
• உங்கள் GPU குறைந்தபட்ச VRAM-ஐ பூர்த்தி செய்யாவிட்டால், நீங்கள் மாதிரியை நிறுவவோ பகிரவோ முடியாது. இது நெட்வொர்க் நம்பகத்தன்மையை உறுதிசெய்து, பயனற்ற வளங்களை பயன்படுத்துவதைத் தடுக்கிறது.

GPU VRAM வகைப்படுத்தல்#

உங்கள் GPU-வின் VRAM அடிப்படையில், உங்கள் சாதனம் பின்வரும் வகைகளில் ஒன்றில் வருகிறது:

VRAM வரம்பு (GB)	பரிந்துரைக்கப்பட்ட மாதிரிகள்
4–6 ஜிபி	1B, 3B
8–12 ஜிபி	7B (குவாண்டைஸ் 4/8-பிட்)
16–24 ஜிபி	7B, 14B (குவாண்டைஸ் 4-பிட்)
32–48 ஜிபி	14B, 20B (குவாண்டைஸ் 4/8-பிட்), 70B (4-பிட்)
48–96 ஜிபி (பல GPUகள்)	70B (8-பிட் குவாண்டைஸ்)
96 ஜிபி+ (பல GPUகள்)	70B (16-பிட் துல்லியம் அல்லது பல இன்ஸ்டன்ஸ்கள்)

உதாரணமாக:

• RTX 3060 (12ஜிபி): 7–8B அளவிலான மாடல்களை பயன்படுத்த பரிந்துரைக்கப்படுகிறது (எ.கா., DeepSeek-r1:8B). செயல்திறன் குறைபாடு ஏற்படும் என்றால், 13B மாடல்களை நிறுவலாம்.
• RTX 4080 (16GB): 7–14B மாடல்களுக்கு பரிந்துரைக்கப்படுகிறது (குவாண்டைஸ் செய்யப்பட்ட 4-பிட்).

எச்சரிக்கை மற்றும் அறிவிப்புகள்#

புதிய மாடல்களைச் சேர்க்கும்போது:

• உங்கள் GPU பரிந்துரைக்கப்பட்ட தேவைகளை பூர்த்தி செய்தால்:
  • எச்சரிக்கைகள் அல்லது கட்டுப்பாடுகள் இல்லை.
• உங்கள் GPU பரிந்துரைக்கப்பட்ட அளவுக்கு கீழே ஆனால் குறைந்தபட்ச அளவுக்கு மேல் இருந்தால்:
  • செயல்திறன் சிக்கல்களைப் பற்றிய தகவலுடன் ஒரு தடை இல்லாத எச்சரிக்கை செய்தி தோன்றும்.
  • எச்சரிக்கை உதாரணம்: ⚠️ செயல்திறன் அறிவிப்பு: உங்கள் GPU VRAM பரிந்துரைக்கப்பட்ட அளவுக்கு கீழே உள்ளது. இந்த மாடல் மெதுவாக இயங்கக்கூடும் மற்றும் ஒரு வினாடிக்கு குறைவான பணிகளை செயலாக்கக்கூடும்.
• உங்கள் GPU குறைந்தபட்ச தேவைகளை பூர்த்தி செய்யவில்லை என்றால்:
  • ஒரு தடை எச்சரிக்கை நிறுவலைத் தடுக்கிறது.
  • எச்சரிக்கை உதாரணம்: 🔴 போதுமான VRAM இல்லை: உங்கள் GPU VRAM இந்த மாடலுக்கான குறைந்தபட்ச தேவைகளை பூர்த்தி செய்யவில்லை. தயவுசெய்து உங்கள் GPU-ஐ மேம்படுத்தவும் அல்லது சிறிய மாடலைத் தேர்ந்தெடுக்கவும். மேலும் அறிக..

சிறப்பு வழக்குகள்#

• K-Quant மேலதிகச் செலவு: K-quants (K_S, K_M, K_L) மூலம் அளவிடப்பட்ட மாடல்களைப் பயன்படுத்தும்போது கூடுதல் VRAM மேலதிகச் செலவு கருதப்படுகிறது. ShareAI தானாகவே கணக்கிட்டு பரிந்துரைகளை அதற்கேற்ப சரிசெய்கிறது.
• :latest மாதிரிகள்:
  • முதல் :latest மாதிரிகள் முன்கூட்டியே அளவுரு எண்ணிக்கையை குறிப்பிடுவதில்லை, ShareAI அதைச் சரிபார்க்கிறது ollama show கட்டளையைப் பயன்படுத்தி பகிர்வதற்கு முன் ஒரு சரிபார்ப்பு செய்கிறது.
  • சரிபார்த்த பிறகு உங்கள் வளங்கள் மாதிரியின் குறைந்தபட்ச தேவைகளுடன் பொருந்தவில்லை என்றால், மாதிரி செயல்படாது.

இறுதி பரிந்துரைகள்#

• ShareAI இடைமுகத்தில் GPU பரிந்துரைகளை தவறாமல் மதிப்பீடு செய்யுங்கள்.
• சிறந்த செயல்திறனுக்காக உங்கள் GPU டிரைவர்களை புதுப்பித்துக் கொள்ளுங்கள்.
• நீங்கள் வலுவாக பங்களிக்க அல்லது பெரிய மாதிரிகளை ஹோஸ்ட் செய்ய விரும்பினால் GPU மேம்பாடுகளை பரிசீலிக்கவும்.

இது உங்கள் பங்களிப்புகளின் செயல்திறனையும் ShareAI மையமற்ற AI நெட்வொர்க்கின் ஆரோக்கியத்தையும் உறுதிப்படுத்துகிறது.