పరికరం అవసరాలు

ShareAI అప్లికేషన్ మీ డివైస్ యొక్క GPU VRAM ఆధారంగా ఏ AI మోడల్స్ షేర్ చేయడానికి అనువుగా ఉంటాయో స్వయంచాలకంగా సిఫార్సు చేస్తుంది. మీ సహకారాన్ని గరిష్టంగా ఉపయోగించుకోవడానికి మరియు ఆప్టిమల్ పనితీరును నిర్ధారించడానికి, మేము రెండు రకాల అవసరాలను ఉపయోగిస్తాము:

సిఫార్సు చేసిన అవసరాలు#

• ఇవి మోడల్స్ సమర్థవంతంగా నడపడానికి అవసరమైన ఐడియల్ VRAM ను సూచిస్తాయి.
• మీ GPU సిఫార్సు చేసిన VRAM ను కలిగి ఉంటే, మీరు మంచి పనితీరు మరియు ఆప్టిమల్ టాస్క్ ప్రాసెసింగ్ వేగాన్ని ఆశించవచ్చు.
• మీ GPU సిఫార్సు చేసిన VRAM కంటే తక్కువ ఉంటే, మీరు మోడల్‌ను ఇన్‌స్టాల్ చేసి నడపగలరు, కానీ పనితీరు గణనీయంగా నెమ్మదిగా ఉండవచ్చు. ఆప్టిమల్ పరిస్థితులతో పోలిస్తే మీ డివైస్ తక్కువ టాస్క్‌లను సెకనుకు ప్రాసెస్ చేస్తుంది.

కనీస అవసరాలు#

• ఇవి ప్రత్యేక మోడల్స్‌ను నడపడానికి మీ GPU కలిగి ఉండాల్సిన కనీస VRAM విలువలు.
• మీ GPU కనీస VRAM ను కలిగి లేకపోతే, మీరు మోడల్‌ను ఇన్‌స్టాల్ చేయలేరు లేదా షేర్ చేయలేరు. ఇది నెట్‌వర్క్ నమ్మకాన్ని నిర్ధారిస్తుంది మరియు అనర్థకమైన వనరుల వినియోగాన్ని నివారిస్తుంది.

GPU VRAM వర్గీకరణ#

మీ GPU యొక్క VRAM ఆధారంగా, మీ డివైస్ క్రింది వర్గాలలో ఒకదానికి చెందుతుంది:

VRAM పరిధి (GB)	సిఫార్సు చేసిన మోడల్స్
4–6 GB	1B, 3B
8–12 GB	7B (క్వాంటైజ్డ్ 4/8-బిట్)
16–24 GB	7B, 14B (క్వాంటైజ్డ్ 4-బిట్)
32–48 GB	14B, 20B (క్వాంటైజ్డ్ 4/8-బిట్), 70B (4-బిట్)
48–96 GB (మల్టిపుల్ GPUs)	70B (8-బిట్ క్వాంటైజ్డ్)
96 GB+ (మల్టిపుల్ GPUs)	70B (16-బిట్ ప్రిసిషన్ లేదా మల్టిపుల్ ఇన్‌స్టాన్సెస్)

ఉదాహరణకు:

• RTX 3060 (12GB): 7–8B పరామితుల చుట్టూ మోడల్స్ ఉపయోగించడానికి సిఫార్సు చేయబడింది (ఉదా., DeepSeek-r1:8B). మీరు పనితీరు తగ్గుదలను అంగీకరిస్తే 13B మోడల్స్ వరకు ఇన్‌స్టాల్ చేయవచ్చు.
• RTX 4080 (16GB): 7–14B మోడల్స్ (క్వాంటైజ్డ్ 4-బిట్) కోసం సిఫార్సు చేయబడింది.

అలర్టింగ్ మరియు నోటిఫికేషన్లు#

కొత్త మోడల్స్‌ను జోడించినప్పుడు:

• మీ GPU సిఫార్సు చేసిన అవసరాలను కలిగి ఉంటే:
  • ఎలాంటి హెచ్చరికలు లేదా పరిమితులు ఉండవు.
• మీ GPU సిఫార్సు చేసిన అవసరాలకు తక్కువ కానీ కనీసానికి పైగా ఉంటే:
  • పనితీరు సమస్యల గురించి మీకు తెలియజేసే ఒక నాన్-బ్లాకింగ్ హెచ్చరిక సందేశం కనిపిస్తుంది.
  • ఉదాహరణ హెచ్చరిక: ⚠️ పనితీరు గమనిక: మీ GPU VRAM సిఫార్సు చేసిన మొత్తానికి తక్కువగా ఉంది. ఈ మోడల్ నెమ్మదిగా నడవవచ్చు మరియు సెకనుకు తక్కువ టాస్క్‌లను ప్రాసెస్ చేయవచ్చు.
• మీ GPU కనీస అవసరాలను కలిగి లేకపోతే:
  • ఇన్‌స్టాలేషన్‌ను నిరోధించే ఒక బ్లాకింగ్ అలర్ట్ కనిపిస్తుంది.
  • ఉదాహరణ అలర్ట్: 🔴 తగినంత VRAM లేదు: ఈ మోడల్ కోసం మీ GPU VRAM కనీస అవసరాలను కలిగి లేదు. దయచేసి మీ GPU ను అప్‌గ్రేడ్ చేయండి లేదా చిన్న మోడల్‌ను ఎంచుకోండి. మరింత తెలుసుకోండి.

ప్రత్యేక సందర్భాలు#

• K-Quant ఓవర్హెడ్: K-Quant (K_S, K_M, K_L) తో క్వాంటైజ్ చేయబడిన మోడళ్లను ఉపయోగించినప్పుడు అదనపు VRAM ఓవర్హెడ్ పరిగణనలోకి తీసుకోబడుతుంది. ShareAI స్వయంచాలకంగా లెక్కించి, సిఫారసులను అనుగుణంగా సర్దుబాటు చేస్తుంది.
• :latest మోడళ్లు:
  • నుండి :latest మోడళ్లు పారామీటర్ కౌంట్‌ను ముందుగానే నిర్దేశించకపోవడంతో, ShareAI ollama show ఆదేశాన్ని ఉపయోగించి చెక్ నిర్వహించి, షేరింగ్‌కు అనుమతిస్తుంది.
  • చెక్ చేసిన తర్వాత మీ వనరులు మోడల్ కనీస అవసరాలకు సరిపోలకపోతే, మోడల్ యాక్టివేట్ కాదు.

తుది సిఫార్సులు#

• ShareAI ఇంటర్‌ఫేస్‌లో GPU సిఫారసులను క్రమం తప్పకుండా సమీక్షించండి.
• మీ GPU డ్రైవర్‌లను ఆప్టిమల్ పనితీరు కోసం అప్‌డేట్ చేయండి.
• నెట్‌వర్క్‌కు ముఖ్యమైన భాగస్వామ్యం చేయాలనుకుంటే లేదా పెద్ద మోడళ్లను హోస్ట్ చేయాలనుకుంటే GPU అప్గ్రేడ్‌లను పరిగణించండి.

ఇది మీ భాగస్వామ్యాల సామర్థ్యాన్ని మరియు ShareAI డిసెంట్రలైజ్డ్ AI నెట్‌వర్క్ ఆరోగ్యాన్ని నిర్ధారిస్తుంది.