AI代理框架：将一个API连接到多个模型

AI代理框架是团队定义代理行为的地方：目标、工具、记忆、交接、循环以及代理何时应停止的规则。但模型访问层是一个不同的决策。如果每个代理框架都直接连接到一个提供商，产品将继承该提供商的定价、速率限制、故障、模型更改和账户规则。.

这就是为什么AI代理框架在框架调用一个稳定的模型API并由模型层处理选择、路由、故障转移、使用可见性和计费时效果更好。ShareAI适合这一层。代理应用程序保持在ShareAI之外，而ShareAI为开发者提供一个API，支持150多个模型、市场信号、按令牌付费的使用，以及当代理流量应变现时的构建者路径。.

为什么AI代理框架需要一个模型访问层

一个代理框架应该帮助您定义工作。它不应该将每个模型调用、工具步骤和回退决策强制到一个硬编码的提供商路径中。.

一个生产代理通常有不同类型的模型调用。一个规划器可能需要更强的推理能力。一个分类器可能需要低成本和低延迟。一个摘要器可能需要更便宜的路径。一个面向客户的答案可能需要更高质量的模型和更安全的回退。将所有这些步骤视为一个默认模型会使成本和可靠性更难控制。.

ShareAI为应用程序提供了一个稳定的模型层。开发者可以 比较模型, 测试选项，并通过一个API路由流量，而不是为每个框架或代理步骤维护单独的提供商集成。.

基本连接模式

大多数集成遵循相同的模式：

• 让您的代理框架负责工作流逻辑、工具和状态。.
• 将框架的模型客户端指向ShareAI的聊天完成端点。.
• 使用来自服务器端环境的ShareAI API密钥。.
• 选择适合每个代理步骤的模型路由。.
• 在启动前按用户、工作区、功能或代理路由记录使用情况。.

当您的框架已经支持OpenAI兼容的聊天模型客户端时，这种模式尤其有用。LangChain文档说明了其ChatOpenAI集成如何使用可配置的基础URL，这是许多团队在通过代理、网关或兼容模型API路由时使用的模式： LangChain ChatOpenAI 文档.

第一步：验证 ShareAI 请求

在更改框架配置之前，请先进行一次直接的服务器端请求。这将为凭据、模型选择和响应格式提供一个干净的基准。.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

将密钥保留在服务器端。不要在浏览器代码、公共代码库、客户端插件或共享代理模板中暴露密钥。当请求成功后，将相同的端点和密钥移入框架配置中。.

第二步：将框架指向 ShareAI

对于代码优先的框架，通常的模式是一个基础 URL、一个 API 密钥和一个模型名称。在 LangChain 中，这可能是这样的：

import os

对于使用环境变量的工具，请在部署环境中将框架的模型 API 变量设置为 ShareAI 的密钥和基础 URL，然后重新启动工作器或代理运行时。.

SHAREAI_API_KEY="your-server-side-key"

对于可视化工具，请查找模型提供商设置或自定义提供商设置。例如，Dify 的文档在其模型提供商设置中将系统提供商与自定义提供商分开： Dify 模型提供商文档. 精确的标签因产品而异，但实际输入通常是相同的：密钥、端点、模型和使用范围。.

第三步：按任务拆分代理路由

一旦框架可以调用 ShareAI，请避免习惯性地将每一步发送到同一个模型。更好的设置是根据工作类型分配模型路由。.

• 规划路线：使用更强大的模型进行分解、工具选择和长时间推理。.
• 快速路线：使用成本较低的模型进行分类、重写、提取或格式化。.
• 客户可见路线：使用最能平衡质量、延迟和可靠性的模型来生成最终答案。.
• 回退路线：选择备用模型，当首选路线性能下降时可以完成相同任务。.

这就是单一API方法变得有用的地方。框架不需要为每个供应商决策单独集成。应用程序可以保持稳定的调用模式，同时团队根据价格、延迟、可用性或质量变化调整路线。.

如果您已经运行多个代理，请将其视为您的运营模型的一部分，而不仅仅是代码设置。更广泛的 AI代理舰队操作 指南解释了当一个代理变成多个代理时，路由、定价和所有权如何适配。.

构建者盈利模式的适配位置

一些代理工作流是内部成本中心。其他则是面向客户的产品功能。如果构建者拥有一个应用程序、插件、工作流、聊天机器人或ShareAI之外的代理产品，该代理流量可以成为基于使用的商业模式的一部分。.

构建者仍然在ShareAI之外构建并拥有应用程序。ShareAI处理路由的AI推理使用、客户支付的路由使用费用、利润或附加费配置，以及根据生成的收益进行的每月构建者支付。.

这对代理框架很重要，因为代理可能会产生不均匀的使用。一位客户可能每月运行几次支持摘要。另一位可能运行数千次研究、分类和工作流调用。通过ShareAI构建者盈利模式，构建者可以通过ShareAI路由AI流量，设置利润，并让使用量大的客户支付他们生成的推理费用。.

当您准备好映射商业方面时，请打开 构建者控制台. 。对于实施规划，请保留 ShareAI文档 在附近。.

AI代理框架生产清单

• 将ShareAI API密钥保存在服务器端。.
• 在启动之前为每个代理路线命名。.
• 按客户、工作区、功能或代理跟踪使用情况。.
• 将高推理路线与低成本实用路线分开。.
• 使用至少一个备用模型路径测试框架。.
• 记录模型、延迟、令牌使用、错误原因和最终路线。.
• 避免将提供商密钥放入提示或导出的代理模板中。.
• 在流量增长之前，决定哪些代理步骤是客户可计费的。.

最小的有用部署是一个代理、一个路线、一个备份和一个使用标签。一旦该路径可测量，将模式扩展到下一个代理步骤。.

常见问题

什么是 AI 代理框架？

AI 代理框架帮助开发人员定义代理行为、工具、内存、工作流、状态和执行循环。它们不同于决定哪个模型服务于每个请求的模型访问层。.

为什么将 AI 代理框架连接到一个 API？

一个 API 使模型访问更容易更改。团队可以将不同的代理步骤路由到不同的模型，比较市场信号，并减少对单一提供商集成的依赖。.

ShareAI 是 AI 代理框架吗？

不是。ShareAI 是一个 AI 市场和 API。它不构建代理应用程序。它可以作为代理框架背后的模型访问、路由、使用、计费和货币化层。.

我可以将 ShareAI 与 LangChain 一起使用吗？

是的，当LangChain集成配置为使用ShareAI的API密钥和支持的模型名称调用ShareAI的聊天完成端点时。先测试直接的API请求，再将其接入完整链路。.

可视化代理构建工具可以使用这种模式吗？

通常可以。如果可视化工具支持自定义模型提供商或兼容OpenAI的端点，设置通常只涉及端点、API密钥、模型名称以及工具存储提供商凭据的位置。.

我应该如何为不同的代理步骤选择模型？

从任务开始。对于规划和高价值响应使用更强的模型，对于简单分类或格式化使用低成本模型，并为不能静默失败的步骤设置备用路径。.

故障转移如何帮助AI代理？

当首选路径不可用、速度慢、成本过高或不适合请求时，故障转移为代理提供另一条模型路径。在生产流量增长前测试最为有用。.

构建者可以通过代理框架使用获利吗？

可以，当构建者拥有ShareAI之外的应用、工作流、插件、聊天机器人或代理产品，并通过ShareAI路由其AI推理流量时。构建者可以为该流量设置利润或附加费。.

谁为路由的代理使用付费？

在构建者模式中，生成路由AI使用的客户、工作区、用户或账户向ShareAI支付该使用费用。ShareAI根据配置的利润或附加费每月向构建者支付基于生成收益的费用。.

供应商和构建者的收入方式是否相同？

不。构建者通过他们通过ShareAI路由的应用流量获利。提供商通过批准的提供商计划，通过向ShareAI网络贡献符合条件的计算能力获利。.

在发布前我应该跟踪什么？

跟踪代理名称、用户或工作区、模型路径、延迟、令牌使用、错误率、回退事件以及触发调用的功能或客户操作。这些数据使定价和路由决策在后期变得更容易。.