裝置要求

ShareAI 應用程式會根據你設備嘅 GPU VRAM 自動推薦適合分享嘅 AI 模型。為咗幫助你最大化貢獻同確保最佳性能，我哋使用咗兩種類型嘅要求：

1. 推薦要求#

• 呢啲係指運行模型高效所需嘅理想 VRAM。
• 如果你嘅 GPU 符合推薦嘅 VRAM, ，你可以預期有良好嘅性能同最佳嘅任務處理速度。
• 如果你嘅 GPU 低於推薦嘅 VRAM, ，你仍然可以安裝同運行模型，但性能可能會明顯較慢。你嘅裝置每秒處理嘅任務數量會比最佳條件少。

2. 最低要求#

• 呢啲係你嘅 GPU 必須符合嘅最低 VRAM 值，才能運行特定模型。
• 如果你嘅 GPU 唔符合最低 VRAM, ，你無法安裝或分享模型。呢個確保網絡可靠性同防止無效嘅資源利用。

GPU VRAM 分類#

根據你 GPU 嘅 VRAM，你嘅設備屬於以下其中一個類別：

VRAM 範圍 (GB)	推薦模型
4–6 GB	1B, 3B
8–12 GB	7B (量化 4/8-bit)
16–24 GB	7B, 14B (量化 4-bit)
32–48 GB	14B, 20B (量化 4/8-bit), 70B (4-bit)
48–96 GB (多GPU)	70B (8-bit 量化)
96 GB+ (多GPU)	70B (16-bit 精度 或 多实例)

例如：

• RTX 3060 (12GB)：建议使用大约 7–8B 参数嘅模型（例如，DeepSeek-r1:8B）。如果接受潜在性能下降，可以安装最多 13B 模型。
• RTX 4080 (16GB): 建議用於 7–14B 模型（量化 4-bit）。

提醒同通知#

加入新模型時：

• 如果你嘅 GPU 符合建議要求：
  • 無警告或限制。
• 如果你嘅 GPU 低於建議但高於最低要求：
  • 會出現非阻止性警告信息，通知你可能嘅性能問題。
  • 警告示例：⚠️ 性能提示： 你嘅 GPU VRAM 低於建議數量。呢個模型可能運行較慢，處理每秒任務數量較少。
• 如果你嘅 GPU 唔符合最低要求：
  • 阻止性警告會防止安裝。
  • 警告示例：🔴 VRAM 不足： 你嘅GPU VRAM唔符合呢個模型嘅最低要求。請升級你嘅GPU或者揀一個細啲嘅模型。 了解更多.

特殊情況#

• K-Quant 額外負載： 使用經K-quants（K_S, K_M, K_L）量化嘅模型時會考慮額外嘅VRAM負載。ShareAI會自動計算並相應調整建議。
• :latest 模型：
  • 由於 :latest 模型唔會提前指定參數數量，ShareAI 會通過檢查進行驗證 ollama show 命令檢查後先至允許分享。
  • 如果檢查後發現你嘅資源唔符合模型嘅最低要求，模型將唔會啟用。

最終建議#

• 定期喺ShareAI介面內檢查GPU建議。
• 更新你嘅GPU驅動程式以獲得最佳性能。
• 如果你想對網絡作出重大貢獻或者托管更大嘅模型，可以考慮升級GPU。

呢樣可以確保你嘅貢獻效率同ShareAI去中心化AI網絡嘅健康。