设备要求

ShareAI 应用程序会根据您设备的 GPU VRAM 自动推荐适合共享的 AI 模型。为了帮助您在确保最佳性能的同时最大化贡献，我们使用了两种要求：

1. 推荐要求#

• 这些表示运行模型高效所需的理想 VRAM。
• 如果您的 GPU 满足推荐的 VRAM, ，您可以期待良好的性能和最佳的任务处理速度。
• 如果您的 GPU 低于推荐的 VRAM, ，您仍然可以安装和运行模型，但性能可能会明显变慢。与最佳条件相比，您的设备每秒处理的任务会更少。

2. 最低要求#

• 这些是您的 GPU 必须满足以运行特定模型的最低 VRAM 值。
• 如果您的 GPU 不满足最低 VRAM, ，您将无法安装或共享模型。这确保了网络的可靠性并防止了资源的无效利用。

GPU VRAM 分类#

根据您的 GPU VRAM，您的设备属于以下类别之一：

VRAM 范围（GB）	推荐模型
4–6 GB	1B, 3B
8–12 GB	7B（量化为4/8位）
16–24 GB	7B, 14B（量化为4位）
32–48 GB	14B, 20B（量化为4/8位）, 70B（4位）
48–96 GB（多GPU）	70B（8位量化）
96 GB+（多GPU）	70B（16位精度或多个实例）

例如：

• RTX 3060（12GB）：建议使用参数约为7–8B的模型（例如，DeepSeek-r1:8B）。如果接受潜在的性能下降，可以安装高达13B的模型。
• RTX 4080（16GB）：推荐用于7–14B模型（量化4位）。

警报和通知#

添加新模型时：

• 如果您的GPU符合推荐要求：
  • 无警告或限制。
• 如果您的GPU低于推荐但高于最低要求：
  • 会出现非阻塞警告消息，告知您可能的性能问题。
  • 示例警告：⚠️ 性能提示： 您的GPU显存低于推荐量。此模型可能运行较慢并处理较少的每秒任务。
• 如果您的GPU不符合最低要求：
  • 会出现阻塞警报，阻止安装。
  • 示例警报：🔴 显存不足： 您的GPU显存不满足此模型的最低要求。请升级您的GPU或选择较小的模型。 了解更多.

特殊情况#

• K-量化开销： 使用K量化（K_S、K_M、K_L）模型时会考虑额外的显存开销。ShareAI会自动计算并相应调整推荐设置。
• :latest 模型：
  • 自从 :latest 模型不会提前指定参数数量，ShareAI 会使用 ollama show 命令进行检查后才允许共享。
  • 如果检查后您的资源不符合模型的最低要求，该模型将无法激活。

最终建议#

• 定期在 ShareAI 界面中查看 GPU 建议。
• 更新您的 GPU 驱动程序以获得最佳性能。
• 如果您希望对网络做出重大贡献或托管更大的模型，请考虑升级 GPU。

这可以确保您的贡献效率以及 ShareAI 去中心化 AI 网络的健康运行。