ShareAI 自动故障切换：同模型路由 + BYOI 实现零停机 AI

当一个AI提供商出现问题时，你的用户不应该受到影响。. ShareAI自动故障切换 通过路由到 相同模型 跨多个提供商保持请求流动——因此体验保持一致，你无需发布紧急补丁。你还可以 BYOI（自带基础设施） 将私有端点设置为默认或作为私有备用层运行。.

为什么故障会造成伤害（以及为什么单一提供商=单点故障）

实际事件模式

故障很少会导致 一切都瘫痪。 更常见的是特定模型的故障、速率限制突发、区域性断电或维护窗口。如果你的技术栈绑定到单一API，这些问题就会变成用户可见的漏洞。.

“重试并祈祷”的隐藏成本”

没有路由的重试只会导致延迟激增、配额耗尽以及用户流失。业务成本体现在服务级别协议、用户流失和支持负担上。.

ShareAI的“相同模型故障切换”意味着什么

模型等效路由

如果 model-x 在提供商A开始出现故障时，ShareAI会路由到 相同的模型（或最接近的等效模型） 在提供商B处——并使用防护措施保持行为一致。这将停机时间转化为 路由决策, ，而不是产品故障。.

对终端用户和产品代码不可见

您的集成调用单一端点。故障转移发生在控制平面——无需功能标志，无需紧急重新部署 对您的应用程序。.

符合您目标的策略调节

设置每个端点的策略，例如 优先考虑延迟, 优先考虑成本, ，或者 严格的提供商顺序. 您决定如何积极地进行故障切换——以及切换给谁。.

在生产环境中使用 ShareAI 的两种方式

默认编排层（始终开启的多提供商）

通过 ShareAI 发送每个请求。您可以直接获得健康检查、同模型路由和提供商 A/B 测试。探索 模型市场 来选择您的主要和备份： 浏览模型

即插即用安全网（仅限事件）

保留您当前的 SDK，但将 ShareAI 连接为 回退路径. 当您的主要服务失败时，自动将流量切换到 ShareAI，而不会对用户造成可见的中断。.

按功能路由

示例：聊天默认使用提供商 X；嵌入因价格使用提供商 Y；两者均具有自动故障切换到备份。.

使用 ShareAI 的 BYOI（自带基础设施）

插入私有推理

连接自托管端点（VPC、本地部署、合作伙伴 POP）。使用 BYOI 作为 主要容量 或作为 私有备用 层，仅您的组织可见。从 提供商指南 和仪表板开始： 提供商指南 • 提供者仪表板

密钥、配额、流量分配

为每个模型附加多个 API 密钥（和提供商）；按环境/团队定义配额和流量份额。.

区域和数据驻留

将流量固定到允许的地理区域，或通过 地理位置设置 请求新的区域以满足合规性和延迟目标： 地理位置设置

自动故障切换的工作原理（底层机制）

健康和延迟探测

ShareAI 持续检查提供商/模型/区域的健康状况和延迟。阈值触发 断路器 即时切换流量。.

模型等效映射

一个精心设计的地图将模型 ID 在不同提供商之间对齐（并评估“最接近的等效项”），以便故障切换尽可能紧密地保留指令遵循行为、分词特性和上下文限制。.

设计安全重试

幂等键和指数回退避免重复工作，同时将尾部延迟降至最低。.

可观测性

您将看到 跟踪、故障切换原因以及成本/延迟差异 在控制台和日志中。阅读 文档 当您准备好进行更深入的检测时： 文档主页

快速开始：发出您的第一个弹性请求

5 步设置

1. 登录 并创建一个 API 密钥。. 登录或注册 • 创建API密钥
2. 在控制台中选择一个 主 每个模型的提供商。.
3. 添加 备份 提供商（以及可选的BYOI端点）。.
4. 启用 同模型路由 并定义回退策略（延迟/成本/顺序）。.
5. 发送您的第一个请求（如下），并模拟一个事件以观察自动故障转移。.

代码：一个请求，自动提供商故障转移

快速开始（代码）

const res = await fetch("https://api.shareai.now/v1/chat/completions", {;

/* 1) 设置您的密钥（安全存储 - 不要放在客户端代码中） */

import os

想要更深入的讲解？从 API参考 快速入门开始： API参考. 。或者在 操场 （非常适合在不编写代码的情况下验证故障转移策略）中实时尝试： 打开 Playground

在事件期间保持体验流畅

智能超时和部分响应

快速从失败的提供商中故障转移；如果您的用户体验支持，则流式传输部分结果，然后从回退中完成。.

缓存常用提示

缓存静态提示（常见问题解答、系统模板提示），以便在事件期间即时提供服务。.

排队并批量处理非紧急工作

批量处理繁重任务（例如，摘要），以便在恢复正常容量后立即继续处理——不会丢失任务。.

透明沟通

添加与提供商状态和您自己的路由状态相关的应用内横幅。指引读者到您的 发布/更新日志 当行为发生变化时： 查看发布版本

控制支出同时保持在线状态

成本上限和备用顺序

设置一个 最大倍数 用于备份（例如，“≤1.2×主要CPM”）。如果备份超过此值，则路由到下一个最佳匹配。.

每团队预算和警报

按工作空间/项目应用预算；在故障转移峰值时发出警报，以免财务部门感到意外。.

事件后报告

审查有多少流量切换失败、原因以及成本/延迟差异以优化策略。.

安全与合规，即使跨供应商也适用

区域固定：在需要时将数据保留在区域内。. 零保留模式：在需要时禁用请求日志记录。. 审计能力：导出日志和跟踪以满足受监管环境的需求。有关供应商地理位置和控制，请参见 地理位置设置 在控制台中： 允许的位置

常见问题

我可以强制 ShareAI 使用确切的模型 ID 吗？

可以——锁定到特定的供应商+模型 ID。或者在没有完全相同的模型时允许最接近的等效切换。.

如果没有完全相同的模型怎么办？

使用 最接近的等效项 选择最近模型的策略，依据能力、上下文大小和成本。您可以控制是优雅降级还是关闭失败。.

如何在不影响生产的情况下测试故障转移？

使用 操场 或使用一个暂存密钥模拟提供商故障（例如，暂时将一个提供商列入黑名单）并检查跟踪： 操场

BYOI是否需要公共入口？

不需要。您可以运行 私有/VPC 端点并将其注册为仅对您的组织可见的提供商。从以下开始 提供商指南: 提供商指南

结论

停机是不可避免的。有了 ShareAI自动故障切换 和 自带智能, ，它们不必具有破坏性。路由到 相同模型 跨提供商，保持SLA完整性，并控制成本和合规性——无需更改您的应用代码。当一个提供商失败时，ShareAI让您保持在线状态。.