多智能体系统的图工程:管理智能体工作

shareai-blog-fallback
此页面中的 简体中文 是使用 TranslateGemma 从英文自动翻译的。翻译可能不完全准确。.

多智能体系统不像简单的聊天机器人那样失败。它们通过交接失败:规划器调用了错误的专家,检索步骤跳过了一个约束,一个工具节点花费过多,或者一个长时间运行的任务不断将昂贵的工作路由到同一个前沿模型。.

这就是为什么图工程正在成为生产中构建智能体团队的一门实用学科。图是智能体工作的操作地图。它定义了哪些节点可以行动,哪些边可以被采用,状态在哪里携带,何时需要人类批准下一步,以及模型调用应该通过受控的 API 层路由到哪里。.

为什么图工程现在很重要

早期的智能体系统通常看起来像一个循环:接收一个目标,调用一个模型,使用一个工具,检查结果,重复。现代智能体系统变得更加结构化。框架如 LangGraph 通过状态、节点和边描述图. 。谷歌推广了 Agent2Agent 互操作性 用于智能体交接。MCP 为 AI 应用程序提供了一种标准方式来连接 工具、数据和工作流.

这些组件使智能体系统更强大,但它们也使执行路径更难以推理。一旦智能体能够委派、分支、重试并调用外部工具,系统的成本和风险就不再局限于单一的提示中。它们分布在整个图中。.

将图视为生产架构

一个生产智能体图应该足够明确,以便工程师无需阅读每个提示就能回答六个问题:

  • 哪些节点被允许调用模型?
  • 哪些节点可以使用工具或外部系统?
  • 哪些转换需要人工审核?
  • 哪种模型或模型类别适合每个步骤?
  • 在哪里执行重试、回退和预算限制?
  • 团队在一次失败的运行后将如何重建发生的情况?

这不仅仅是一个可观测性练习。这也是一个产品和利润率的练习。一个低风险分类节点、一个检索节点、一个代码生成节点和一个最终审查节点不一定需要使用相同的模型。当每个节点默认使用最昂贵的模型时,图表就会变成一个成本放大器。.

ShareAI 在图中的定位

ShareAI 为团队提供了一个访问150多个AI模型的单一API,具有智能路由、回退、市场信号和按令牌计费的功能。在基于图的代理系统中,这使得模型调用层更容易更改,而无需重写图本身。.

构建者可以将编排器、应用框架、数据库、队列和代理运行时保留在ShareAI之外,然后在 分享AI API 需要推理的节点上使用模型访问。图仍然控制工作流。ShareAI 控制模型访问、路由灵活性以及围绕使用的商业路径。.

这种区分很重要。ShareAI 不是图引擎。它是一个模型市场和API层,帮助团队在代理系统演变时保持模型选择的开放性。.

实用的图工程检查清单

在多代理系统到达客户之前,以操作术语绘制图表:

  1. 列出每个节点。. 包括代理、确定性函数、工具调用、审批门、路由器、评估器和后台作业。.
  2. 标注每个模型调用。. 跟踪提示目的、预期输入大小、预期输出大小和可接受的模型类别。.
  3. 将路由与编排分离。. 让图决定接下来应该发生什么,并让模型层决定哪个合适的模型应该服务于特定的调用。.
  4. 在图和节点级别设置预算。. 在可能的情况下设置每次运行、每个用户、每个租户和每个节点的限制。.
  5. 对于狭窄的工作使用更便宜的模型。. 分类、提取、格式化和初步审查通常不需要与开放式推理相同的模型。.
  6. 定义回退行为。. 决定何时重试、何时路由到另一个模型以及何时关闭失败。.
  7. 对不可逆的操作要求批准。. 人工检查点应位于外部副作用之前,例如发送消息、进行购买、删除记录或更改客户数据。.
  8. 记录图标识。. 捕获图版本、运行ID、节点ID、模型ID、工具ID、租户和用户上下文。.
  9. 对提示和工具进行版本控制。. 只有当团队能够重现运行时使用的确切指令和工具架构时,图才是可调试的。.
  10. 在发布前审查余量。. 如果代理是面向客户的产品的一部分,则在定价锁定之前必须显示模型成本。.

构建者视角:图表成本成为产品利润

对于构建者来说,图表工程不仅仅是关于可靠性。它还涉及将 AI 使用与产品商业模式保持一致。.

如果一个应用程序允许客户运行研究代理、支持代理、编码代理或工作流代理,每条图表路径可能会产生不同的成本配置文件。一个简短的总结流程可能很容易包含在基础计划中。一项深入的多代理调查可能需要使用限制、付费补充或附加费。.

模型 ShareAI构建者控制台 帮助应用程序所有者将外部应用程序连接到 ShareAI,设置其 AI 利润或附加费,并让客户直接为使用向 ShareAI 付款。这为构建者提供了从代理图表中的模型调用到可持续客户定价的更清晰路径。.

在图表设计你的成本结构之前设计图表

代理图表往往会悄然增长。一个计划者增加了另一个专家。一个专家增加了另一个工具。一个支持工作流增加了人工审核路径。一个回退变成了第二次模型调用。这些选择没有一个必然是错误的,但每一个都改变了成本和控制的范围。.

有效的做法是尽早使图表可见。保持编排明确,通过一个可以随着模型变化而改变的层路由模型调用,并在代理工作变得过于复杂以至于难以理解之前为面向客户的使用定价。.

从探索开始 ShareAI 模型市场的模型 IDShareAI文档.

常见问题

什么是多代理系统的图表工程?

图表工程是设计构成多代理工作流的节点、边、状态、审批、工具调用和模型调用的实践。它关注的是工作如何在系统中流动,而不仅仅是每个提示如何编写。.

图表工程与提示工程有何不同?

提示工程改进了提供给模型的指令。图表工程定义了下一个运行的代理或功能、可用的工具、应调用的模型,以及何时应停止、分支、重试或请求审批。.

我需要 LangGraph 才能使用图表工程的理念吗?

不需要。LangGraph 是基于图表的代理编排的一个有用示例,但核心理念适用于任何多代理、工具、模型调用和决策点在工作流中连接的系统。.

模型路由在代理图中适合什么位置?

模型路由适用于每个需要推理的节点。图决定需要调用模型;路由层根据成本、延迟、可用性和任务适配性决定哪个合适的模型处理该调用。.

ShareAI可以替代我的代理编排器吗?

不可以。ShareAI不是编排器或应用框架。它是一个由人驱动的AI市场和API,帮助构建者访问并路由他们拥有并在其他地方运行的应用程序中的模型调用。.

图工程如何降低AI成本?

它使昂贵的路径变得可见。一旦团队知道哪些节点调用模型、这些节点运行的频率以及每个节点需要的模型类别,他们就可以将简单的工作转移到低成本模型,并将前沿模型保留用于高价值步骤。.

构建者在面向客户的代理图中应该跟踪什么?

构建者应该跟踪租户、用户、图版本、节点、模型、令牌、延迟、成本、回退事件和可计费使用状态。这些字段使支持客户和保护AI利润变得更容易。.

图工程是否与隐私优先或自托管应用相关?

是的。隐私优先和自托管应用仍然需要明确控制数据流向、使用哪些模型端点以及哪些客户操作需要批准。图有助于记录这些边界。.

MCP如何改变图设计?

MCP可以使工具和数据源更容易向代理公开,但它也增加了访问控制、工具边界、模式审查和每节点权限的需求。工具访问应该是图设计的一部分,而不是事后补充。.

图中何时应该包含人工审批?

人工审批适用于不可逆或高风险操作之前,例如向外部发送消息、更改计费状态、删除数据、升级支持案例或做出影响客户账户的决策。.

构建受治理的代理图的第一步是什么?

将当前工作流程绘制为节点和转换,然后标记每个模型调用、工具调用、审批点、重试、回退和预算限制。该地图通常揭示了首要的成本和可靠性修复点。.

本文属于以下类别: 开发者, 洞察

通过一个API路由模型调用

使用ShareAI访问150多个模型,比较选项,并在您的代理图增长时保持模型选择的灵活性。.

相关文章

开源RAG应用货币化:为查询定价,而非下载

保持一个开源的RAG应用程序可访问,同时为定期的AI查询、路由推理和高频使用定价……

本地部署AI应用货币化:积分、路由和使用限制

为本地部署软件供应商提供的实用指南,将产品许可证与连接的AI积分分离,路由,…

通过一个API路由模型调用

使用ShareAI访问150多个模型,比较选项,并在您的代理图增长时保持模型选择的灵活性。.

目录

开始您的AI之旅

立即注册,获取由众多提供商支持的150多个模型的访问权限。.