AI Prosumer
ZH

针对GPU拥有者和推理提供者

您提供容量。将其连接到AI需求。

让符合条件的计算可用于 ShareAI 网络。提供路由推理并跟踪您的贡献所产生的 Provider 奖励。

您的基础设施。您在网络中的角色。
您的基础设施由您的团队运营
符合条件的容量
支持的模型
提供商政策
分享AI路由 · 计量 · 计费
您的贡献提供者奖励
01

连接提供符合条件的基础设施

02

配置选择支持的服务

03

服务为路由推理做出贡献

04

路由你的请求。查看您的提供者奖励

值得解决的部分

容量需要一个需求的路由。

拥有基础设施只是工作的一部分。让它可用、处理请求并理解其贡献同样重要。

更清晰的模型

将您的基础设施加入网络。

探索 Provider 要求,连接支持的容量,并通过控制台管理您的参与。

它适合的地方

一个连接的贡献。

01

您的基础设施

将您运营的计算加入 Provider 设置。

02

路由推理

通过 ShareAI 网络提供符合条件的工作负载。

03

可见的贡献

在您的 Provider 工作区中跟踪使用情况和奖励。

让您的GPU开始工作

您的容量可能是什么样子?

选择您的GPU,设置您的费率,了解满负荷日程可能的价值。

基于RTX 3080的估算每秒约140输出tokens,每个GPU。
8小时最多24小时
您可以贡献的天数
您的费率(每百万tokens) 附加费之前的推理成本。

示例费率。输入您计算服务的价格。

模型、速度和工作负载

参考模型Llama 2 7B · Q4_0

短请求:512输入tokens和128输出tokens。每个GPU一次处理一个请求。

有自己的基准测试吗?替换两种速度。选择其他GPU会恢复其参考值。

100%表示请求在您选择的时间内持续到达。降低它以考虑空闲时间。

发布的速度来自社区llama.cpp测试,关闭Flash Attention。RTX 3080 Ti预设使用RTX 3080参考;这是一个近似值,而不是测量的3080 Ti结果。

输入处理和输出生成共享相同的时间预算。实际吞吐量还取决于上下文、软件和请求开销。一个月为30天,每周计划重复。

查看基准测试来源
潜在计算收入附加费之前的推理成本。Llama 2 7B · Q4_0
$54.28每30天一个月

在100%工作负载下

总估算,未扣除电费、费用和税金。

310.2M输入tokens$31.02
77.5M输出tokens$23.26
您的每周计划40 GPU小时
您计划的可用时间剩余时间
已选择5天1 GPU × 8小时 × 5天

这是一个模拟场景,不是支付报价。实际服务和奖励取决于资格、需求和计划条款。Exchange和Mission有自己的激励措施。

在您连接之前

清晰的答案。
一个有用的下一步。

联系我们的团队
Builder与Provider有何不同?

Builder通过其拥有的应用程序的AI流量获利。Provider贡献符合条件的计算资源以服务网络。他们的收入来自不同的贡献。

我应该从哪里开始?

打开Provider工作区以查看要求并配置您的服务。使用公共目录了解模型和提供者政策的展示方式。

ShareAI 是否构建或托管我的应用程序?

您的应用程序由您的团队开发和托管。ShareAI提供网络中推理的路由、使用和支付层。

连接您的贡献

提供您的容量。
探索网络。

开放Provider探索文档