ข้อกำหนดของอุปกรณ์

แอปพลิเคชัน ShareAI แนะนำโมเดล AI ที่เหมาะสมสำหรับการแชร์โดยอัตโนมัติตาม GPU VRAM ของอุปกรณ์ของคุณ เพื่อช่วยให้คุณเพิ่มการมีส่วนร่วมสูงสุดในขณะที่ยังคงประสิทธิภาพที่เหมาะสม เราใช้ข้อกำหนดสองประเภท:

1. ข้อกำหนดที่แนะนำ#

• สิ่งนี้บ่งชี้ถึง VRAM ที่เหมาะสมที่สุดที่จำเป็นสำหรับการรันโมเดลอย่างมีประสิทธิภาพ.
• หาก GPU ของคุณตรงตาม VRAM ที่แนะนำ, คุณสามารถคาดหวังประสิทธิภาพที่ดีและความเร็วในการประมวลผลงานที่เหมาะสม.
• หาก GPU ของคุณต่ำกว่า VRAM ที่แนะนำ, คุณยังสามารถติดตั้งและรันโมเดลได้ แต่ประสิทธิภาพอาจช้าลงอย่างเห็นได้ชัด อุปกรณ์ของคุณจะประมวลผลงานได้น้อยลงต่อวินาทีเมื่อเทียบกับสภาวะที่เหมาะสม.

2. ข้อกำหนดขั้นต่ำ#

• สิ่งเหล่านี้คือค่าต่ำสุดของ VRAM ที่ GPU ของคุณต้องตรงตามเพื่อรันโมเดลเฉพาะ.
• หาก GPU ของคุณไม่ตรงตาม VRAM ขั้นต่ำ, คุณไม่สามารถติดตั้งหรือแชร์โมเดลได้ สิ่งนี้ช่วยให้เครือข่ายมีความน่าเชื่อถือและป้องกันการใช้ทรัพยากรที่ไม่มีประสิทธิภาพ.

การจัดหมวดหมู่ GPU VRAM#

ตาม GPU VRAM ของคุณ อุปกรณ์ของคุณจะอยู่ในหนึ่งในหมวดหมู่ต่อไปนี้:

ช่วง VRAM (GB)	โมเดลที่แนะนำ
4–6 GB	1B, 3B
8–12 GB	7B (quantized 4/8-bit)
16–24 GB	7B, 14B (quantized 4-bit)
32–48 GB	14B, 20B (quantized 4/8-bit), 70B (4-bit)
48–96 GB (multiple GPUs)	70B (8-bit quantized)
96 GB+ (multiple GPUs)	70B (16-bit precision or multiple instances)

ตัวอย่างเช่น:

• RTX 3060 (12GB): แนะนำให้ใช้โมเดลที่มีพารามิเตอร์ประมาณ 7–8B (เช่น DeepSeek-r1:8B) คุณสามารถติดตั้งโมเดลได้ถึง 13B หากยอมรับการลดประสิทธิภาพที่อาจเกิดขึ้น.
• RTX 4080 (16GB): แนะนำสำหรับโมเดล 7–14B (quantized 4-bit).

การแจ้งเตือนและการแจ้งเตือน#

เมื่อเพิ่มโมเดลใหม่:

• หาก GPU ของคุณตรงตามข้อกำหนดที่แนะนำ:
  • ไม่มีคำเตือนหรือข้อจำกัดใดๆ.
• หาก GPU ของคุณต่ำกว่าที่แนะนำแต่สูงกว่าขั้นต่ำ:
  • ข้อความเตือนไม่บล็อกจะปรากฏขึ้นเพื่อแจ้งให้คุณทราบเกี่ยวกับปัญหาด้านประสิทธิภาพที่อาจเกิดขึ้น.
  • ตัวอย่างคำเตือน: ⚠️ การแจ้งเตือนประสิทธิภาพ: VRAM ของ GPU ของคุณต่ำกว่าปริมาณที่แนะนำ โมเดลนี้อาจทำงานช้าลงและประมวลผลงานได้น้อยลงต่อวินาที.
• หาก GPU ของคุณไม่ตรงตามข้อกำหนดขั้นต่ำ:
  • การแจ้งเตือนแบบบล็อกจะป้องกันการติดตั้ง.
  • ตัวอย่างการแจ้งเตือน: 🔴 VRAM ไม่เพียงพอ: หน่วยความจำ VRAM ของ GPU ของคุณไม่ตรงตามข้อกำหนดขั้นต่ำสำหรับโมเดลนี้ กรุณาอัปเกรด GPU ของคุณหรือเลือกโมเดลที่เล็กกว่า. เรียนรู้เพิ่มเติม.

กรณีพิเศษ#

• ค่าใช้จ่ายเกิน K-Quant: มีการพิจารณาค่าใช้จ่าย VRAM เพิ่มเติมเมื่อใช้โมเดลที่ถูกปรับด้วย K-quants (K_S, K_M, K_L) ShareAI จะคำนวณและปรับคำแนะนำโดยอัตโนมัติ.
• :latest โมเดล:
  • ตั้งแต่ :latest โมเดลไม่ได้ระบุจำนวนพารามิเตอร์ล่วงหน้า ShareAI จะทำการตรวจสอบโดยใช้ ollama show ก่อนที่จะอนุญาตให้แชร์.
  • หากทรัพยากรของคุณไม่ตรงกับขั้นต่ำของโมเดลหลังจากการตรวจสอบ โมเดลจะไม่ทำงาน.

คำแนะนำสุดท้าย#

• ตรวจสอบคำแนะนำ GPU ภายในอินเทอร์เฟซ ShareAI อย่างสม่ำเสมอ.
• อัปเดตไดรเวอร์ GPU ของคุณเพื่อประสิทธิภาพที่ดีที่สุด.
• พิจารณาอัปเกรด GPU หากคุณต้องการมีส่วนร่วมอย่างมากในเครือข่ายหรือโฮสต์โมเดลขนาดใหญ่.

สิ่งนี้ช่วยให้มั่นใจถึงทั้งประสิทธิภาพของการมีส่วนร่วมของคุณและสุขภาพของเครือข่าย AI แบบกระจายของ ShareAI.