AI Prosumer
ZH
替代方案

为什么 OpenAI 兼容 API 是新标准(以及 ShareAI 如何添加 BYOI)

如果您的产品依赖 OpenAI 的 API,任何中断都可能直接影响用户和收入。即使是短暂的停机时间也可能阻碍核心功能,例如聊天或文本生成。这就是为什么 OpenAI 兼容 API 成为默认选择的原因——以及 ShareAI 如何让您从中受益……

查看为Markdown格式

如果您的产品依赖于OpenAI的API,服务中断可能会直接影响用户和收入。即使是短暂的停机时间也可能阻碍核心功能,例如聊天或文本生成。这就是原因 OpenAI兼容API 成为默认选项——以及如何 分享AI 让您从该标准中受益,同时 注册您自己的硬件(BYOI) 开箱即用。

将“OpenAI兼容”视为一个互操作层。使用ShareAI,您可以跨多个提供商进行路由 您自己的机器——无需重写。

“OpenAI兼容”在实践中的意义

“OpenAI兼容”意味着遵循与OpenAI相同的请求和响应架构 聊天完成 端点(/v1/chat/completions)。实际上,您发送相同的JSON负载(模型、消息、温度等),并获得相同的JSON结构(选择、完成原因、使用情况)。

如果您对该结构不熟悉,OpenAI的文档是一个有用的参考: OpenAI 聊天完成 API.

为什么这种格式成为默认

  • 开发者熟悉度: 大多数团队已经了解这种语法。上手更快。
  • 迁移的便利性: 一个共享接口将提供商切换和回退变成了一项低成本任务。
  • 工具生态系统: SDK、代理框架和工作流工具都期望这种形式,因此集成可以直接运行。

结果是 默认的互操作性:您可以在不同的模型和提供商之间路由,而无需维护一堆客户端。

ShareAI 的角度:从第一天起的互操作性 + 控制

ShareAI 采用与 OpenAI 兼容的接口,因此您可以使用您已经熟悉的工具进行构建,同时获得多提供商控制、成本透明性和自带智能(BYOI)。

一个界面,多种模型

因为 ShareAI 支持 OpenAI 格式,您可以发送 相同的 请求到不同的提供商和您自己的机器上。比较延迟、质量和价格——无需重写客户端。

自动故障转移与正常运行时间保障

添加多个兼容 OpenAI 的端点。如果一个端点性能下降或失败,ShareAI 可以切换到另一个端点。结合密钥轮换、健康检查和流量分配,确保用户体验流畅。

原生支持自带硬件 (BYOI)

超越互操作性。注册您自己的机器——工作站、实验室设备或本地 GPU 服务器——使它们显示为 OpenAI 兼容的容量 在您的组织内部,与第三方提供商并列。

开箱即用注册您的机器

  • 指向并注册流程: 在控制台中注册节点 → 认证 → 广播支持的模型 → 您的节点显示为可路由的、兼容 OpenAI 的目标。
  • 跨平台安装程序: Windows、Ubuntu、macOS、Docker。
  • 零客户端更改: 您的应用程序继续使用 /v1/chat/completions 像往常一样。

云与您的节点之间的统一策略和配额

组织级控制统一适用:速率限制、使用上限、路由规则和审计日志。在不牺牲统一界面的情况下,将私有数据和微调权重保留在您自己的基础设施上。查看 提供商指南.

优化成本,无需锁定

智能路由与缓存

使用多个可互换的端点,您可以将流量发送到最便宜或最快的地方。在接口层添加缓存以避免对相同提示的重复调用——惠及每个提供商和您的 BYOI 节点。

透明的核算

获取每模型、每路由的使用情况,用于财务和容量规划。识别高影响提示,比较各提供商的成本/性能,并相应调整策略。

开发者体验:使用您已经熟悉的客户端和工具

无论您喜欢 cURL、Python 或 JavaScript,负载保持不变。在控制台中创建 API 密钥,并使用您偏好的技术栈调用兼容 OpenAI 的端点。

创建 API 密钥在游乐场中尝试API参考

示例:cURL(相同的JSON,两个目标)

# 1) Third-party provider (OpenAI-compatible)
curl -X POST "https://api.example-llm.com/v1/chat/completions" \
  -H "Authorization: Bearer $PROVIDER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [
      { "role": "user", "content": "Summarize our changelog in 3 bullets." }
    ]
  }'

# 2) Your ShareAI BYOH node (OpenAI-compatible)
curl -X POST "https://your-node.shareai.internal/v1/chat/completions" \
  -H "Authorization: Bearer $SHAREAI_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "local-llama-3-8b",
    "messages": [
      { "role": "user", "content": "Summarize our changelog in 3 bullets." }
    ]
  }'

# 2) 您的ShareAI BYOH节点(兼容OpenAI)requests)

import os
import requests

payload = {
    "model": "gpt-4o-mini",
    "messages": [
        {"role": "user", "content": "Write a cheerful release note (75 words)."}
    ],
}

# Provider A
r1 = requests.post(
    "https://api.example-llm.com/v1/chat/completions",
    headers={
        "Authorization": f"Bearer {os.environ['PROVIDER_API_KEY']}",
        "Content-Type": "application/json",
    },
    json=payload,
)

# ShareAI BYOH node (same shape; swap model if you like)
payload["model"] = "local-llama-3-8b"
r2 = requests.post(
    "https://your-node.shareai.internal/v1/chat/completions",
    headers={
        "Authorization": f"Bearer {os.environ['SHAREAI_TOKEN']}",
        "Content-Type": "application/json",
    },
    json=payload,
)

print(r1.status_code, r2.status_code)

import os

  • # 提供商A # ShareAI BYOH节点(相同结构;可更换模型)
  • 提供商信息(ShareAI) 谁可以提供:
  • 社区或公司(带来个人设备或组织机群) 安装程序:
  • Windows、Ubuntu、macOS、Docker 空闲时间与始终在线:
  • 贡献空闲计算能力或专用容量 定价控制、优先曝光、贡献者认可
  • 治理: 组织政策、使用计费、路由规则

准备贡献您的节点?阅读 提供商指南.

快速开始:从零到OpenAI兼容 + 自带基础设施(BYOI)

  • 登录或注册
  • 创建 API 密钥
  • 注册一个节点(适用于您的操作系统的安装程序/代理)
  • 设置路由规则(例如,优先选择最便宜的;故障切换到您的节点)
  • 调用 /v1/chat/completions 使用您已经使用的相同负载

烟雾测试清单

  • 从每个路由返回200(提供商A、提供商B、您的节点)
  • 模拟提供商A的故障并确认自动故障切换
  • 比较相同提示在不同路由上的成本并查看使用报告
  • 为高流量提示添加缓存策略
  • 验证组织级别的速率限制和配额

结论

“OpenAI-compatible” 是 LLMs 的通用语言。ShareAI 在该标准上添加了多提供商路由,并增加了 BYOI,因此您可以在使用云提供商的同时使用您自己的 GPU——无需重写客户端代码.

浏览模型打开 Playground阅读文档

您的下一步行动

运行兼容 OpenAI 的服务——加上您自己的硬件

快速建立多提供商路由,并在几分钟内注册您的机器。保持成本可预测,应用程序在线运行。

询问关于此页面的问题

选择一个助手来探索此页面。您也可以复制页面并将其粘贴到您的对话中。

Ask ChatGPTAsk ClaudeAsk GrokAsk ShareAI