将模型添加到提供者设备

选择符合条件的模型#

从您的Provider工作流程或应用程序中打开模型目录。搜索目标模型并阅读其确切标识符、硬件要求、服务权限以及可用的商业条款。仅凭一个可识别的模型名称不足以确定其确切标签或变体。

检查设备容量#

GPU内存需求取决于权重、精度或量化、上下文长度、运行时开销和并发性。请使用当前模型要求和观察到的设备资源。不要仅根据参数数量推断出保证的兼容性。

安装并启用#

1. 选择确切的模型并查看任何访问或定价条款。
2. 开始支持的模型下载或连接流程。
3. 等待安装或同步完成，并在启用共享之前解决错误。
4. 在目标设备上启用模型共享。
5. 在控制台中确认模型和设备状态，然后监控实际活动。

当模型未出现时#

检查所选工作区、提供者批准、目录权限、模型可用性以及安装是否完成。对于自动目录检查，请使用 提供者模型端点.

当模型无法加载时#

阅读运行时错误，比较所需和可用资源，并检查其他工作负载是否占用GPU。在宣传容量之前解决加载问题。更改目录文本无法修复设备运行时故障。