根据您的 AI 应用需要更改的责任选择 LiteLLM 替代方案。比较 Portkey、Cloudflare AI Gateway 和 OpenRouter 以满足选定的网关或托管访问要求;当缺失层是使用计费时,比较 Lago;当现有应用希望通过批准的 Builder 安排支付符合条件的推理费用时,评估 ShareAI,包括允许的应用附加费和归属收益。
审查日期:2026年10月23日。 ShareAI 发布了此比较并运营了讨论的一个程序。当前官方参考支持功能;截图为实际捕获。执行的代码是离线合成账本。未进行生产代理迁移、密钥配置、漏洞测试、客户发票、付款或性能基准测试。
LiteLLM 已记录自定义模型成本、提供商利润率、虚拟密钥和计费集成。将其简化为提供商名称适配器的比较忽略了商业和控制面团队可能已经使用的内容。在决定替代方案必须保留什么之前,请识别实际代理版本、许可证范围、配置和周边付款安排。
LiteLLM 已支持商业化的内容
自定义定价参考 描述了成本覆盖、折扣和提供商价格映射。利润率指南 记录了内部计费和成本回收的百分比或固定金额费用。保留原因:当应用需要自己的价格映射并具有适当的运营模式时,请评估这些现有控制。可配置的推理利润率并非 ShareAI 的独有功能。
计费指南描述了一个Lago回调,用于内部或外部使用计费,可选择客户、用户或团队归属。这是现有的集成路径,并非自动完成发票或付款的证明。比较实际事件映射、计划和付款连接,而不是声称LiteLLM无法参与客户计费。
当前存储库许可证区分了单独许可的企业目录与MIT许可的内容,这些内容不受其指定限制。检查实际选择的版本和功能。广泛的开源标签并不意味着每个企业控制或商业服务都包括在内,许可证费用只是运营成本的一部分。
一个多租户写作应用更改其自定义模型价格
考虑一个假设的写作应用,其现有客户工作空间。其网关为每个工作空间发放访问密钥,在提供商之间路由,并包含一个具有自定义价格的私有模型。财务部门希望分配基础设施开销并评估符合条件的推理的应用边际。产品部门还需要一个明确的规则来处理在生成部分草稿后失败的请求。
困难的变化是一个新的私有模型,其价格映射尚未完成。应用仍然生成草稿,但网关记录为零成本,配置的预算未能阻止进一步工作。此外,如果计费集成在没有验证的情况下信任客户控制的请求字段,则该字段可以声称另一个客户的身份。成功的草稿和一个合理的成本图表无法解决这两个问题。
比较整个过程:可信的工作空间准入、实际模型使用、配置价格、接受的客户收费和收款。保留原始草稿任务和重复尝试。重试可能会产生更多的提供商消耗,但不会交付另一个有用的草稿。明确的修正应更改商业记录,而不删除已运行的内容或默默地将其分配给另一个工作空间。
按运营和商业所有权比较替代方案
| 选项 | 评估它的用途 | 单独进行资格认证。 |
|---|---|---|
| Portkey | 网关控制和可观察性 | 选定的部署、功能范围和付款所有权 |
| Cloudflare AI Gateway | 管理的资金路径和自定义HTTPS提供商 | 凭证优先级、请求格式和实际客户收费 |
| OpenRouter | 管理模型访问和用户控制的推理密钥。 | 用户授权、路由策略和应用商业条款 |
| Lago | 使用计费及其选定的运营模式 | 可信事件、部署、计划和收款集成 |
| ShareAI Builder Program | 经批准的客户支付推理费用并附加应用附加费 | 合格性、应用归属和账户特定结算 |
写作应用程序可以在评估另一种计费或已批准的推理路径时保留一个工作网关。这需要实际的集成和明确的用户说明。产品之间不暗示自动同步预算、共享钱包或原生连接器。为每个准入决策、测量使用项、客户收费和修正分配单一所有者。
从工作区准入到付款追踪一个草稿
| 阶段 | 保留证据 | 写作应用程序问题 |
|---|---|---|
| 许可 | 可信工作区、密钥和实际权限 | 此用户是否可以访问此模型? |
| 执行 | 逻辑草稿、提供者尝试和返回使用情况 | 实际消耗了哪些资源? |
| 定价 | 版本化成本映射和选定的利润率 | 哪种计算适用于该工作? |
| 客户费用 | 接受的条款和明确的修正 | 客户同意支付的金额是多少? |
| 收集和释放 | 实际收据和适用的结算状态 | 收到的价值是什么,并变为可用? |
保持这些观察结果链接,而不是将它们视为一个成功标志。一个密钥可以授权一个模型而无需建立客户购买。一个配置的利润率可以被计算而无需被收集。一个正确的最终余额可以隐藏一个缺失事件或错误的工作区。支持和财务应该能够重建相同的原始草稿及其明确的调整。
Portkey:比较网关操作和请求证据
Portkey 文档描述了网关、可观察性、护栏和管理功能,并提供了单独的部署参考。优点:当写作应用程序希望比较操作控制和模型请求相关证据时,评估选定范围。从实际政策和失败行为开始,而不是模型数量排名。
权衡:限定确切的版本、托管、保留数据、定价配置和客户付款安排。支出控制和追踪与收集已接受的费用执行不同的工作。自托管参考并不自动包括每个托管仪表板或企业服务。比较实际选定的实施和支持责任。
对于私有写作模型,在更改生产路由之前检查已知的非零请求和客户映射。排练部分草稿并重试。保留用户看到的内容、提供者消耗的内容以及应用程序的商业政策收费,而不是将匹配的请求数量视为整个工作流程迁移成功的证明。
Cloudflare AI Gateway:比较资金和自定义端点
Cloudflare统一计费参考描述了提供商密钥和信用资助模型的访问方式。其自定义提供商指南涵盖了HTTPS端点,包括自托管模型示例。优点:当应用程序希望评估不同网关和资助安排以选择模型时,请比较这些现有功能。
权衡:限定请求格式、凭证优先级、控制和实际客户定价。统一兼容路径和特定提供商路径有不同的要求。分析成本映射本身并不能建立接受的转售费用。使用不同资助来源的成功响应仍可能导致意外的应用程序所有者账单。
对于写作应用程序,请同时比较私有模型和缺失的生产凭证。检查哪个账户资助了结果以及哪个记录描述了客户费用。保留缓存或中断草稿的政策。不同的网关不会自动继承LiteLLM中配置的每个预算、模型权限和计费回调。
OpenRouter:比较托管访问和用户资助请求
OpenRouter快速入门描述了托管模型访问。其OAuth指南明确允许用户使用用户控制的密钥授权应用程序,并从自己的OpenRouter信用中资助请求。优点:当写作应用程序希望客户资助符合条件的推理而不是将每个请求费用归于应用程序所有者时,请比较此流程。
权衡:限定模型可用性、提供商政策、密钥处理和实际应用程序商业协议。应用程序归属指南描述了使用关联和排名。这本身并不能建立批准的应用程序附加费用或收到的收入。用户资助的模型访问并非ShareAI独有;请比较完整的批准商业路径。
对于作者来说,重新演练一个断开连接的用户账户、耗尽的信用额度以及在早期工作成功后失败的最终草稿。保留可信的客户和预期的付款人。模型访问的变更不应默默地向应用所有者收费,也不应暗示其单独的写作订阅、支持职责和私有模型基础设施随凭证一起移动。
Lago:明确比较使用计费层
Lago简介描述了使用计费,而官方代码库提供了开源部署路径。优点:比较所选版本,当写作应用缺少责任时,将可信使用和商业条款转换为计费记录。LiteLLM自己的计费指南已经标识了Lago集成路径。
权衡:限定实际部署、所需版本功能、事件映射和付款集成。操作自托管实现需要更新、可用性和恢复。使用计费系统不会自动替换允许模型调用的网关,也不会建立商户记录关系。保留每个技术和财务步骤的所有者。
对于私有模型,比较可信的工作区标识符、约定的计费单位和明确的修正。协调网关计算的成本与实际销售的计划。发布的回调示例不能证明延迟事件、重播或客户争议会在应用选择的部署中生成预期的发票和收到的付款。
ShareAI:比较已批准的应用附加费和结算
ShareAI Builder Program涉及一个已经存在并拥有自己用户的应用。符合条件的流量通过ShareAI路由,Builder配置允许的附加费或利润,最终客户为该推理支付ShareAI。应用归属收益遵循该计划。优点:当写作应用希望获得批准的推理付款和归属路径时,比较这种安排。
权衡:应用审批、合格流量、实际模型访问和账户条款至关重要。经过验证的公司Builder在45天审核期后才能获得付款。个人目前为ShareAI使用累积推理价值,无法兑现或进行账户转账。应用程序仍然在其他地方构建、托管、分发和维护。其写作订阅、支持和其他商业职责仍然是明确的责任。
提供基础设施或自定义端点属于适用的Provider或Prosumer入驻流程,与Builder归属分开。LiteLLM已经记录了自定义价格和利润;自定义端点也存在于其他地方。比较实际接受、路由、付款人和发布情况。ShareAI并未建立通用的计费替代方案、一般商户记录服务或现有网关密钥和权限的自动迁移。
利润计算需要接受的商业政策
利润参考描述了在配置折扣后应用利润,提供商特定设置会覆盖全局利润。保留用于每个草稿的计算版本。后续的全局配置更改不应抹去早期接受费用的解释。内部成本回收和批准的外部应用价格可能有不同的合同处理方式。
计费参考提供了客户、内部用户和团队归属选择。从可信应用程序上下文中选择身份,而不是接受客户随意提供的声明。保留逻辑工作和原始调整。回调的存在并不能证明重播事件不会重复收费或生成的发票已被支付。
确定零成本映射和整个密钥生命周期
定价指南明确指出,零输入和输出成本会绕过预算检查,并且当路由和定价提供商不同时,定价提供商映射至关重要。虚拟密钥指南记录了不同的权限继承表面。请比较确切的密钥所有者、团队和模型配置,而不是将创建密钥的人视为其有效权限的证明。
同一密钥指南区分了仅创建的自定义钩子与更新强制和更广泛的有效状态策略钩子。符合创建时到期规则的密钥可以在之后编辑,除非实际选择的策略涵盖了该操作。请演练所选版本的创建、编辑、旋转和撤销路径。在部署之前,请审查其当前官方发布和建议信息;此比较不测试安全性或推荐未经验证的旧版本包。
仅用于算术计算,1000 USD的推理加上假设的15%附加费产生150 USD的总附加费和1150 USD的总额。这些合成金额不是LiteLLM或ShareAI费用、收到的收入、净利润或税收结果。实际的基础设施、提供商和计费成本、修正和资格会影响结果。
在接受实时商业路径之前检查算术计算。
以下执行的固定装置去重了相同活动,拒绝了冲突的重复项,并以整数USD分记录了明确的调整。它不会部署代理、提供密钥、调用计费回调或收取付款。这些结果需要实际运行时和围绕计算的商业证据。
JavaScript
import assert from "node:assert/strict";
const records = [
{id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
{id: "usage-b", customer: "demo", cents: 50000n, kind: "usage"},
{id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
{id: "adjustment-b", customer: "demo", cents: -10000n, kind: "adjustment"}
];
function netCents(rows) {
const seen = new Map();
let total = 0n;
for (const row of rows) {
assert.equal(row.customer, "demo");
const fingerprint = [row.customer, row.cents.toString(), row.kind].join("|");
if (seen.has(row.id)) {
if (seen.get(row.id) !== fingerprint) throw new Error("Conflicting duplicate");
continue;
}
if (row.cents < 0n && row.kind !== "adjustment") throw new Error("Invalid sign");
seen.set(row.id, fingerprint);
total += row.cents;
}
return total;
}
const base = netCents(records);
assert.equal(base, 100000n);
assert.throws(() => netCents([...records,
{id: "usage-a", customer: "demo", cents: 1n, kind: "usage"}
]));
const numerator = base * 1500n; // Hypothetical 15 percent in basis points.
if (numerator % 10000n !== 0n) throw new Error("Define contractual rounding first");
const surcharge = numerator / 10000n;
assert.equal(surcharge, 15000n);
const usd = cents => `${cents / 100n}.${(cents % 100n).toString().padStart(2, "0")}`;
console.log(JSON.stringify({baseUSD: usd(base), grossSurchargeUSD: usd(surcharge),
totalUSD: usd(base + surcharge), paidReceiptVerified: false}));观察到的输出为1000 USD的推理示例、150 USD的总附加费和1150 USD的总额,没有经过验证的付款收据。在生产中保留可信的工作区身份、原始草稿、实际使用和接受的修正。正确的总和不能证明强制权限、正确的发票或收到的款项。
首先移动一个模型、工作区和修正路径。
- 确定实际网关版本、许可证范围、密钥和计费集成。
- 选择需要更改的运营或商业责任。
- 保留可信的客户身份和版本化的模型价格映射。
- 演练非零使用、零成本映射、密钥编辑和明确的修正。
- 验证实际付款证据,避免重复的实时收款。
- 保留原始记录并回滚,直到完整的客户旅程被验证。
当当前实现适合时,请保留LiteLLM。比较网关替代方案的实际操作边界,Lago用于选定的计费要求,ShareAI用于批准的客户支付推理。从一个草稿开始,其准入、消费、价格、交付和财务修正可以一起解释。
常见问题解答
AI应用应该比较哪些LiteLLM替代方案?
Portkey、Cloudflare AI Gateway 和 OpenRouter 解决了选定的网关或托管访问需求。Lago 解决了使用计费问题,包括由 LiteLLM 自身记录的路径。ShareAI 涉及经批准的客户付费推理及应用附加费。选择需要更改的责任。
LiteLLM 是否已经可以应用推理利润率?
是的。当前指南记录了内部计费和成本回收的百分比和固定金额提供商或全局利润率。提供商设置会覆盖全局利润率,并且利润率在配置折扣后适用。计算本身并不能确立已接受的外部收费或已收款项。
LiteLLM 能否参与外部客户计费?
其当前计费指南记录了一个 Lago 回调,包含客户、用户或团队归属选择。需验证可信身份、可计费事件、计划规则和支付连接。示例回调并不能证明已完成的发票或付款。
零记录成本是否总是意味着免费推理?
不是。缺失或错误的定价映射可能需要调查,当前指南明确记录了绕过预算检查的零成本设置。在接受显示金额为商业正确之前,请比较实际提供商使用情况和选定配置。
密钥创建规则是否自动涵盖后续编辑?
不是。虚拟密钥参考区分了创建钩子、更新钩子和更广泛的有效状态策略钩子。需验证所选版本以及实际的创建、编辑、旋转和撤销路径。合规的初始密钥并不能确立永久执行。
每个 LiteLLM 功能是否都由一个 MIT 许可证覆盖?
审核的存储库许可证区分了一个单独许可的企业目录与其指定限制之外的 MIT 许可内容。检查实际版本、功能和部署。广泛的开源描述并不能确立相同的商业范围。
ShareAI的Builder结算如何因账户类型而异?
已验证的公司 Builder 有 45 天的审核期才能付款。个人目前为 ShareAI 使用累积推理值,不能兑现或账户转账。审批、合格流量和账户条款适用;使用和收益不作保证。
ShareAI 能否替代每个 LiteLLM 控制和计费功能?
Builder Program 涉及经批准的路由推理、允许的应用附加费和归属。应用仍然托管并维护在其他地方。其他网关政策、软件费用和财务职责需要明确决策;不暗示自动密钥、钱包或计费迁移。