AI代理框架：連接一個API到多個模型

AI代理框架係團隊定義代理行為嘅地方：目標、工具、記憶、交接、循環同埋代理應該停止嘅規則。但模型訪問層係一個唔同嘅決定。如果每個代理框架都直接連接到一個供應商，產品就會繼承嗰個供應商嘅定價、速率限制、故障、模型更改同埋賬戶規則。.

呢個就係點解AI代理框架喺框架調用一個穩定嘅模型API，而模型層處理選擇、路由、故障轉移、使用可見性同埋計費時會運作得更好。ShareAI適合呢個層。代理應用程序喺ShareAI外面，而ShareAI為開發者提供一個API，支持150+模型、市場信號、按字元使用計費，仲有一條當代理流量應該變得可盈利時嘅Builder路徑。.

點解AI代理框架需要一個模型訪問層

一個代理框架應該幫你定義工作。佢唔應該將每次模型調用、工具步驟同埋回退決策強制喺一條硬編碼嘅供應商路徑入面。.

一個生產代理通常有唔同類型嘅模型調用。一個規劃器可能需要更強嘅推理能力。一個分類器可能需要低成本同低延遲。一個摘要器可能需要更平嘅路徑。一個面向客戶嘅答案可能需要更高質量嘅模型同更安全嘅回退。將所有呢啲步驟當作一個默認模型處理會令成本同可靠性更難控制。.

ShareAI為應用程序提供一個穩定嘅模型層。開發者可以 比較模型, 測試選項，通過一個API路由流量，而唔需要為每個框架或者代理步驟維護單獨嘅供應商集成。.

基本連接模式

大多數集成都遵循相同嘅模式：

• 讓你嘅代理框架負責工作流程邏輯、工具同狀態。.
• 將框架嘅模型客戶端指向ShareAI嘅聊天完成端點。.
• 喺你嘅服務器端環境使用一個ShareAI API密鑰。.
• 選擇適合每個代理步驟嘅模型路由。.
• 喺啟動前按用戶、工作區、功能或者代理路由記錄使用情況。.

呢個模式特別有用，當你嘅框架已經支持一個兼容OpenAI嘅聊天模型客戶端時。LangChain文檔記錄咗佢嘅ChatOpenAI集成點樣可以使用一個可配置嘅基礎URL，呢個係好多團隊喺通過代理、網關或者兼容模型API路由時使用嘅模式： LangChain ChatOpenAI 文件.

第一步：驗證 ShareAI 請求

喺改變框架配置之前，先做一次直接嘅伺服器端請求。咁樣可以提供一個乾淨嘅基準，用嚟驗證憑證、模型選擇同埋回應格式。.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

將密鑰保留喺伺服器上。唔好喺瀏覽器代碼、公眾倉庫、客戶端插件或者共享代理模板中暴露密鑰。當請求成功後，將相同嘅端點同密鑰移到框架配置中。.

第二步：將框架指向 ShareAI

對於代碼優先嘅框架，通常嘅模式係一個基礎 URL、一個 API 密鑰同一個模型名稱。喺 LangChain 中，可以係咁樣：

import os

對於使用環境變量嘅工具，喺部署環境中將框架嘅模型 API 變量設置為 ShareAI 密鑰同基礎 URL，然後重啟工作者或者代理運行時。.

SHAREAI_API_KEY="your-server-side-key"

對於可視化工具，搵模型提供商設置或者自定義提供商設置。例如，Dify 嘅文檔將系統提供商同自定義提供商喺模型提供商設置中分開： Dify 模型提供商文檔. 具體標籤因產品而異，但實際輸入通常係一樣嘅：密鑰、端點、模型同使用範圍。.

第三步：按任務劃分代理路由

一旦框架可以調用 ShareAI，避免習慣性將每一步都發送到同一個模型。一個更好嘅設置係根據工作類型分配模型路由。.

• 計劃路徑：用更強嘅模型嚟做分解、工具選擇同長推理。.
• 快速路徑：用低成本嘅模型嚟做分類、重寫、提取或者格式化。.
• 客戶可見路徑：用最平衡質量、延遲同可靠性嘅模型嚟提供最終答案。.
• 後備路徑：揀一個備用模型，喺首選路徑性能下降時完成相同任務。.

呢個時候，一個API嘅方法就變得有用。框架唔需要為每個供應商決定做單獨集成。應用程序可以保持穩定嘅調用模式，而團隊可以根據價格、延遲、可用性或者質量變化更改路徑。.

如果你已經運行多個代理，將呢個視為你嘅運營模型一部分，而唔係只係一個代碼設置。更廣泛嘅 AI代理艦隊操作 指南解釋咗當一個代理變成多個時，路由、定價同擁有權點樣配合。.

建設者盈利模式嘅位置

有啲代理工作流程係內部成本中心，其他係面向客戶嘅產品功能。如果建設者擁有一個應用程序、插件、工作流程、聊天機械人或者ShareAI以外嘅代理產品，嗰個代理流量可以成為基於使用嘅商業模式一部分。.

建設者仍然喺ShareAI以外構建同擁有應用程序。ShareAI處理路由AI推理使用、客戶支付嗰個路由使用嘅費用、利潤或者附加費配置，仲有根據產生嘅收益每月支付建設者。.

呢個對代理框架嚟講好重要，因為代理可以創造唔均勻嘅使用。一個客戶可能每月運行幾個支持摘要，另一個可能運行幾千個研究、分診同工作流程調用。通過ShareAI建設者盈利模式，建設者可以通過ShareAI路由AI流量，設置利潤，讓使用量大嘅客戶支付佢哋產生嘅推理費用。.

當你準備好映射商業方面時，打開 建設者控制台. 。對於實施計劃，請保持 ShareAI文檔 放喺附近。.

AI代理框架嘅生產清單

• 將ShareAI API密鑰保持喺服務器端。.
• 喺啟動之前為每個代理路徑命名。.
• 按客戶、工作空間、功能或者代理追蹤使用情況。.
• 將高推理路徑同低成本實用路徑分開。.
• 用至少一個備份模型路徑測試框架。.
• 記錄模型、延遲、令牌使用量、錯誤原因同最終路徑。.
• 避免將供應商密鑰放喺提示或者導出嘅代理模板入面。.
• 喺流量增長之前決定邊啲代理步驟係客戶可收費嘅。.

最細嘅有用部署係一個代理、一條路徑、一個備份同一個使用標籤。一旦嗰條路徑可以測量，就將模式擴展到下一個代理步驟。.

常見問題

咩係AI代理框架？

AI代理框架幫助開發者定義代理行為、工具、記憶、工作流程、狀態同執行循環。佢哋同決定邊個模型服務每個請求嘅模型訪問層唔同。.

點解要將AI代理框架連接到一個API？

一個API令模型訪問更容易改變。團隊可以將唔同嘅代理步驟路由到唔同嘅模型，對比市場信號，減少對單一供應商集成嘅依賴。.

ShareAI係AI代理框架嚟嘅嗎？

唔係。ShareAI係AI市場同API。佢唔係構建代理應用程序。佢可以喺代理框架後面作為模型訪問、路由、使用、計費同貨幣化層。.

我可以用ShareAI同LangChain一齊用嗎？

係，當 LangChain 集成配置咗用 ShareAI API key 同支持嘅模型名去調用 ShareAI 嘅 chat completions endpoint 嘅時候。喺接駁到完整鏈之前，測試直接嘅 API 請求。.

視覺代理構建工具可以用呢個模式嗎？

通常可以。如果視覺工具支持自定義模型提供者或者 OpenAI 兼容嘅 endpoint，設置通常只需要 endpoint、API key、模型名同工具儲存提供者憑證嘅位置。.

我應該點樣揀模型去應用喺唔同嘅代理步驟？

由工作開始。用更強嘅模型去做計劃同高價值回應，用低成本模型去做簡單分類或者格式化，對於唔可以靜默失敗嘅步驟設置備用路徑。.

故障轉移點樣幫助 AI 代理？

故障轉移喺首選路徑無法使用、慢、太貴或者唔適合請求嘅時候，提供另一個模型路徑俾代理。喺生產流量增長之前測試最有用。.

構建者可以通過代理框架使用賺錢嗎？

係，當構建者擁有 ShareAI 以外嘅應用、工作流程、插件、聊天機械人或者代理產品，並通過 ShareAI 路由佢嘅 AI 推理流量。構建者可以為呢啲流量設置利潤或者附加費。.

邊個支付路由代理使用費用？

喺構建者模式中，產生路由 AI 使用嘅客戶、工作空間、用戶或者賬戶會支付俾 ShareAI。ShareAI 每月根據配置嘅利潤或者附加費產生嘅收入支付俾構建者。.

供應商同建設者賺錢方式一樣嗎？

唔係。構建者通過佢哋經 ShareAI 路由嘅應用流量賺錢。提供者通過批准嘅提供者計劃，將合資格嘅計算能力貢獻俾 ShareAI 網絡賺錢。.

喺推出之前應該追蹤啲咩？

追蹤代理名、用戶或者工作空間、模型路徑、延遲、token 使用、錯誤率、後備事件同觸發請求嘅功能或者客戶行動。呢啲數據可以令定價同路由決策之後更加容易。.