TensorBlock Forge 替代方案：路由、密鑰同應用收入

2026年10月22日審核。 由 ShareAI 團隊撰寫。我哋運營咗呢篇比較中提到嘅一個服務。呢份指南使用咗實際截圖、當前主要參考資料同固定嘅 Forge 來源檢查。內容包括一份建議嘅遷移工作表；冇進行私人 Forge 部署、獨立安全審核、付費推理基準測試或者客戶遷移。

對於 TensorBlock Forge 替代方案，評估 LiteLLM 同 Bifrost 作為你運營嘅網關，Kong 同 Apache APISIX 作為 API 網關/控制層，OpenRouter 作為托管模型訪問。當支持嘅推理、批准嘅應用 AI 附加費或者符合資格嘅自有容量係主要需求時，ShareAI 係相關嘅。在更改應用 URL 之前，請比較憑證管理、端點行為同商業責任。

將託管嘅 Forge 服務同源代碼部署分開

Forge 服務 提供咗類似 OpenAI 嘅界面，並展示咗供應商/模型命名示例同帳戶登錄。倉庫 README 描述咗自託管中介軟件、供應商適配器、模型別名同密鑰管理。公共登錄頁面同源代碼倉庫係唔同嘅證據：兩者都唔能證明私人託管帳戶中運行嘅係確切版本或者配置。

固定實際部署版本、依賴項、數據庫、適配器同配置。呢次審核檢查咗公共提交 db6c9f5f0ba6，而唔係假設託管服務運行嘅係嗰個版本。選擇替代方案時，請保留供應商帳戶所有權同應用合同。如果現有路由符合需求，保留 Forge 可能係合適嘅選擇。

喺比較牌照成本之前，請閱讀實際商業條款。

喺所檢視嘅提交版本LICENSE中，列明係Apache 2.0加補充條款。呢啲條款要求對列出嘅類別（包括商業修改/衍生作品、企業部署、公有雲服務同商業硬件分發）進行事先書面商業授權。唔好將呢份文件簡化為無限制嘅Apache 2.0商業用途，或者假設源碼可用就唔需要商業協議。

記錄適用於你預期部署嘅實際版本同條款。分開軟件授權、付費支持、基礎設施同推理提供者嘅收費。一個競爭嘅網關核心許可證亦唔會自動包括其企業控制或托管平台。本文描述嘅係已發佈文件，並唔係確立你現有合同或者你可能收到嘅任何其他授權。

五個替代方案一覽

使用一個代表性應用操作，包括其實際模型、負載、調用者同故障條件。分開比較部署控制、提供者訪問同功能範圍，唔好混淆商業工作流程。一個路由器、一個推理運行時同一個客戶付款計劃可以一齊運作，但保持唔同嘅擁有者。

五個替代方案：優勢、限制同適配性

LiteLLM：自行運行網關

最適合：想喺供應商賬戶同支持嘅自託管模型端點前運行自己網關嘅工程團隊。呢個開源代理提供OpenAI風格嘅介面、虛擬密鑰、支出追蹤同路由配置。

優點：對代理部署同基礎設施嘅控制；可配置預算同供應商路由。LiteLLM仲記錄自定義定價同費用利潤，所以可配置嘅模型成本加成唔係ShareAI獨有。

缺點：運營者需要負責升級、可用性、存儲同下游供應商配置。代理記錄嘅利潤同管理嘅客戶付款同建設者結算計劃係唔同嘅責任。需要分開檢查商業功能。

定價同部署：開源核心唔會減少託管、運營或者推理成本。檢查網關文檔同自定義定價參考，睇下係咪符合你嘅部署需求。

Bifrost：另一個你可以操作嘅閘道器

最佳適用：適合想保留自己控制嘅閘道器，並評估唔同實現同操作模式嘅團隊。呢部分係關於 Maxim AI 嘅 Bifrost，唔係其他同名項目。

優點：佢嘅閘道器可以以二進制文件或者容器形式運行，支持供應商配置、虛擬密鑰同操作可見性。一個自我管理嘅選項可以讓你比較閘道器過程，同時保留現有嘅供應商關係。睇睇官方設置指南。

缺點：你嘅團隊仍然需要負責運行服務、保護配置同上游訪問。企業功能需要單獨審查。已發布嘅供應商吞吐量同延遲數據係基於測試環境，唔能夠證明你完整嘅應用程序喺遷移後會變得更快。

定價同部署：將開源閘道器同支持同企業條款分開，然後為基礎設施同供應商使用預算。喺估算節省之前，運行你自己嘅代表性流量重放同錯誤測試。本文唔會對 Bifrost 同 LiteLLM 嘅性能進行獨立比較聲明。

Kong：一齊選擇控制平面同閘道器

最適合：比較API閘道器/平台方法喺托管同自有基礎設施之間嘅團隊。閘道器參考將服務、路由、消費者、插件同控制/數據平面配置分開。

優點：部署選擇同可擴展嘅閘道器配置提供咗一個具體嘅操作模型，可以對應現有API資產。AI流量可以喺相關嘅AI閘道器範圍內進行審查。

缺點同成本檢查：選擇實際部署同授權功能。門戶、消費者生命周期、自定義政策同操作仍然需要單獨映射；一條可用路由唔等於完整遷移。預算需要嘅控制/數據平面、插件、支持同自有運行時，而唔係假設每個企業功能都係免費。

Apache APISIX：一齊比較 API 網關同 AI 插件。

最適合：想操作 API 網關並喺該平台內評估 AI 路由嘅團隊。Apache APISIX 文件記錄咗 ai-proxy-multi 插件，支持嘅模型/供應商請求格式同多個上游實例。

優點：插件參考包括負載均衡、重試、回退同健康檢查設置，請求信息可以提供俾日誌集成。相關嘅網關文檔涵蓋咗需要同 Kong 進行比較嘅 API 概念。

缺點：可用嘅插件名稱唔係相同策略語義、本地協議支持或者配置行為嘅證據。固定實際嘅 APISIX 發布版本同所需插件；驗證憑證、策略順序、串流、錯誤處理同失敗情況下嘅證據。商業支持同托管服務係獨立於 Apache 項目嘅。

成本同部署：考慮網關嘅託管、配置/狀態、更新、監控同事件響應，加埋上游推理。唔好將開源許可價格同托管服務總成本比較，然後將差異稱為保證節省。

OpenRouter：購買托管訪問，而唔係操作代理

最佳適用：適合主要需要通過托管賬戶訪問模型同供應商嘅應用程序。當運行路由服務對產品價值增加有限時，呢係一個實際嘅操作責任轉變。

優點：賬戶資金、目錄訪問同供應商路由係作為一項服務處理嘅。應用程序可以使用熟悉嘅 HTTP 請求模式，而團隊可以評估可用嘅供應商，而唔需要維護另一個代理部署。

缺點：你唔會操作 OpenRouter 嘅路由服務。模型支持、供應商行為、BYOK 費用同私人部署需要分開檢查。佢有企業私人端點，配合支持嘅供應商同目錄模型條件；話佢唔可以連接私人部署係唔準確嘅。

定價同部署：檢視現時賬戶資金同 BYOK 條款，以及推理費率。標準目前會喺信用購買加 5.5%；呢個係資金費用，唔係每個供應商廣告嘅 token 費率額外加嘅百分比。OpenRouter 替代方案指南解釋咗擁有權同盈利模式嘅分別問題。

區分提供者密鑰、網關密鑰同登錄令牌

所檢視嘅安全實現使用Fernet加密/解密提供者憑證。佢會從ENCRYPTION_KEY讀取運行時加密值，從SECRET_KEY讀取JWT簽名值。README包含額外嘅示例名稱，所以要確認你所選版本實際使用嘅代碼/配置。唔好假設未使用嘅變量可以保護實時部署。

加密代碼喺 ENCRYPTION_KEY 缺失時會生成一個密鑰。操作推論：依賴嗰個由過程生成嘅值可能會導致唔同嘅過程或者重新啟動嘅實例無法解密之前存儲嘅憑據。提供受保護嘅持久配置，並驗證副本/重啟同恢復行為。呢個推論係基於靜態代碼檢查，而唔係喺部署嘅 Forge 帳戶上重現嘅故障。

供應商密文同 Forge 呼叫者憑據係唔同嘅對象。供應商模型有 encrypted_api_key；Forge 密鑰模型有一個獨立嘅 key 字符串同供應商範圍關聯。唔好將供應商密鑰加密聲明擴展成為聲稱每個憑據、緩存、數據庫字段或者記錄都以相同方式加密或者哈希。

密鑰必須可以俾調用上游供應商嘅組件使用。所以運行時訪問、受保護嘅配置、備份、緩存同日誌都應該納入監管審查，仲有數據庫字段。源代碼檢查並無確立安全內存擦除、硬件隔離邊界、遠程認證或者獨立安全認證。對每個候選者，包括 ShareAI，都應該應用相同嘅證據標準。

明確映射供應商範圍、別名同端點行為。

密鑰管理路由同請求認證包含咗所有權、活躍/已刪除密鑰同供應商範圍邏輯。喺遷移過程中，保留每個呼叫者密鑰嘅所有者同佢可以訪問嘅上游憑據。證明預期嘅允許同拒絕情況，包括範圍更改同密鑰重新生成。成功登錄係一個唔同嘅檢查，唔等於有權調用特定供應商。

自訂嘅基本 URL 唔係 ShareAI 獨有嘅功能。Forge 嘅供應商模型包含咗呢個欄位，而適配器工廠包含咗一個自定義嘅 OpenAI 風格適配器路徑，仲有供應商專屬嘅適配器。需要確認實際嘅 URL、模型映射、身份驗證、網絡訪問同支持嘅端點；一個可配置嘅欄位並唔代表可以建立任意協議或者模型兼容性。

供應商服務處理唔同嘅端點類型同使用路徑。經過審查嘅圖像生成/編輯路徑明確限制咗供應商支持，而完成、Responses 同嵌入調用有獨立嘅適配器工作。一個成功嘅 Chat Completions 請求並唔代表所有適配器都可以提供相同嘅 Responses、圖像、嵌入、工具調用或者流式行為。

喺遷移清單中保持網關憑證、供應商憑證同模型別名分開。一個帶供應商前綴嘅模型標識符、一個別名同上游部署名稱可以指向唔同嘅對象。記錄請求嘅名稱同實際目標，咁樣一個睇似無害嘅重命名就唔會無聲無息咁將工作負載移到另一個模型或者賬戶。

原始憑證同目標接受工作表

• 清點當前版本、許可授權、調用者密鑰、供應商憑證、範圍、別名同所需端點。保留來源、加密數據、加密配置同當前服務路徑。
• 喺候選者上模擬一個非關鍵操作。檢查正常輸出、一個錯誤/撤銷嘅調用者同一個不允許嘅上游目標，然後再增加流量。
• 測試實際嘅流/工具/錯誤情況同允許嘅重試/回退路徑。確認最終應用結果、完成嘅副作用同邏輯操作嘅持久記錄。
• 驗證重啟、複本同埋恢復行為對保留狀態嘅影響。用可逆嘅路由更改移動一個有限嘅群組；保留原始證據同未結算嘅賬目，直到對賬通過為止。

將適配器列表、接受嘅配置導入同管理狀態視為中間觀察結果。呢啲唔能夠證明運行時訪問隔離、流完整性、共享配額行為或者恢復。工作表有意列出必須觀察嘅內容，但冇聲稱呢次審查部署咗每個網關或者測試咗每個Provider。

定義失敗行為、使用情況同完整嘅處理路徑。

審查過嘅Provider服務代碼有普通響應同流嘅使用追蹤路徑。唔好因為舊嘅路線圖文本列出分析工作，就描述Forge完全冇使用記錄。同樣，使用代碼路徑唔係證明每個中斷嘅流、Provider架構或者賬目記錄喺你嘅部署中已經合格。

測試超時、速率限制、上游身份驗證失敗、部分流同已完成嘅工具操作。定義邊啲失敗可以觸發另一個嘗試，邊個目的地係授權嘅。保留邏輯操作身份同允許嘅嘗試次數。第二個模型可能會產生額外費用或者重複副作用，即使應用程序只收到一個最終答案。

對於位置要求，追蹤應用程序、網關、配置嘅上游模型主機、緩存、日誌同每個回退。自我託管代理唔會將外部Provider嘅推理放喺你嘅基礎設施內。同樣，託管網關嘅公共Provider目錄唔會為私人請求建立確切路由。喺需要領土處理要求證據嘅情況下，使用歐洲AI路由工作表。

比較完成相同接受工作嘅總成本：軟件授權、網關操作、數據庫/緩存同恢復、調查記錄、Provider使用同遷移重疊。將測量嘅應用程序延遲同供應商嘅僅網關基準分開。呢份指南唔會建立保證嘅節省、安全優勢或者最快嘅候選者。

ShareAI 用於批准應用程序附加費同符合條件嘅自有容量。

最適合：需要支持AI推理嘅應用程序、批准應用程序AI附加費或者符合條件嘅自有推理服務路由。ShareAI 提供其路由、使用、客戶付款同歸屬收入工作流程。你嘅應用程序喺其他地方構建同託管；保持其應用程序權限同業務數據責任明確。

優點：經批准嘅合資格應用程式可以喺客戶批准後，對路由嘅AI使用設置附加費，付款會經ShareAI處理，並計入Builder收益。應用程式接入同單純喺代理內記錄自定附加費係唔同嘅操作。缺點同成本檢查：計劃資格、支持嘅模型同實際處理路徑需要進行資格認證。

公司Builder需要驗證並經過45日審核先可以支付；個人目前收到嘅係推理價值，而唔係現金提取。假設$1,000嘅推理加上15%附加費，總共收費$1,150，當中$150係附加費毛收入，未扣除費用或者調整。毛收入唔係保證嘅利潤或者即時結算。

推理服務接入可以涉及你支持嘅端點/基礎設施，而合資格嘅Prosumer/Provider參與可以根據適用嘅模型、硬件、權利同計劃條款貢獻自有容量。Builder應用程式收入、Provider計算資源同Creator模型權利係分開嘅。連接唔保證流量、獎勵、任意端點支持或者自動回退。

一個針對你後端嘅ShareAI範圍請求。

選擇實際提供俾你帳戶嘅模型，並將密鑰保留喺服務器端。原生嘅cURL/JavaScript區塊使用ShareAI實現嘅Chat Completions路由。呢係一個語法檢查過嘅獨立請求，唔係憑證存儲遷移、Forge別名一致性證明或者付費推理結果。

curl --fail-with-body https://api.shareai.now/api/v1/chat/completions \
  -H "Authorization: Bearer $SHAREAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"YOUR_AVAILABLE_MODEL","messages":[{"role":"user","content":"Reply with one short greeting."}],"stream":false}'

const response = await fetch("https://api.shareai.now/api/v1/chat/completions", {
  method: "POST",
  headers: {
    Authorization: `Bearer ${process.env.SHAREAI_API_KEY}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: process.env.SHAREAI_MODEL,
    messages: [{ role: "user", content: "Reply with one short greeting." }],
    stream: false,
  }),
});
if (!response.ok) throw new Error(`Inference failed: ${response.status}`);
console.log(await response.json());

請參考最新嘅ShareAI文檔了解支持嘅行為。保留原始嘅provider/scope清單，並對整個請求/結果/證據路徑進行資格認證。Bifrost比較同APISIX比較涵蓋相關嘅操作同政策決策。

常見問題解答

明確選擇憑證保管同AI商業流程

用預期嘅調用範圍、供應商目的地、完整結果同可恢復狀態演練一次操作。對於經批准嘅應用AI附加費工作流程，打開ShareAI Builder。對於符合條件嘅自有容量，探索AI Prosumer。保留原始路由同證據，直到所需行為通過為止。