扩展托管代理:解耦大脑与双手
为敏捷而架构:在企业中扩展人工智能代理系统
作为一名科技记者,我见证了无数的变革,但很少有像人工智能代理的兴起那样具有颠覆性。这些复杂的系统将高级推理与实际操作相结合,将重新定义企业的运营方式。然而,从功能强大的概念到可投入生产的解决方案的旅程充满挑战,尤其是在扩展这些智能实体时。
“代理越多越好”的方法通常会遇到限制,如果未与特定任务的特性精确匹配,可能会阻碍性能,如文中所述。一篇最新的 arXiv 论文. 。多代理协调可明显提高可并行化任务的性能,但可能会显着降低顺序任务的性能,如文中也指出。同一研究. 。预测模型可以识别 87% 的未知任务的最佳架构,如文中突出。论文.
快速摘要
以下是关于扩展人工智能代理的关键见解的简要概述:
- 人工智能代理定义: 人工智能代理将大型语言模型 (LLM) 或多模态模型 (VLM) 与推理、规划、记忆和工具使用相结合,以执行复杂任务。
- 架构选择很重要: 多代理系统的有效性在很大程度上取决于所选择的架构(单代理、独立、集中式、去中心化、混合式)和任务类型。
- 任务专业化: 对于金融分析等可并行化任务,集中式协调可显着提高性能。对于顺序任务,多代理方法可能会由于通信开销而降低性能。
- 工具协调权衡: 更多的工具意味着更大的协调开销,这会放大独立多代理系统中的错误。集中式系统中的协调器可以缓解这种情况。
- 企业解决方案: 主要的科技供应商(Google Cloud、Databricks、Atos、Microsoft、Camunda)提供用于部署和扩展人工智能代理的框架和架构,强调模块化、治理和安全操作。
- 挑战: 扩展代理涉及确保可靠性、可重用性、管理非确定性以及解决提示注入等新安全风险的障碍。
- 学习框架: 高级学习框架,如 Google 的 Forge,解决了系统吞吐量、训练稳定性和代理灵活性之间的三难困境,以实现大规模部署。
人工智能代理的解剖结构
人工智能代理作为思考、规划和行动的系统运作,利用大型语言模型 (LLM) 或多模态模型 (VLM)。它们是自然语言与真实世界计算之间的实际桥梁。这些系统将基础模型与推理、规划、记忆和工具利用等能力相结合。它们充当控制器,将意图转化为在外部环境中执行的程序。现代数字工作,通常分散在界面和 API 之间,凸显了对人工智能代理日益增长的必要性。
纯粹的对话系统经常面临幻觉、缺乏依据以及无法执行或验证操作的问题,这突显了对更强大、更具代理性的方法的需要。工具和检索增强的设计通过将声明锚定到证据并使中间工件可验证来显着提高可靠性。
人工智能代理的执行周期通常涉及观察、内存检索、动作建议、验证和执行。这些有时被称为“代理 Transformer”的 Transformer 基础策略模型嵌入在结构化控制周期中。它们的行为被建模为跨交互轨迹的序列建模,包括观察、思考、工具调用和结果。决策策略可以根据风险进行分支,例如,对高风险动作实施额外的验证步骤。ReAct 式的轨迹对于性能和治理都非常有价值,因为它将决策与具体证据和工具输出绑定。
扩展人工智能代理:架构范式
在企业中扩展人工智能代理系统需要仔细的架构考虑。五种标准的代理架构已经出现:单代理系统 (SAS)、独立、集中式、去中心化和混合式,如文中讨论。一篇 arXiv 论文.
根据所述,单代理系统 (SAS) 使用统一的内存流顺序执行所有思考和行动步骤。同一来源. 。独立多代理系统在没有通信的情况下并行处理子任务,仅在最终阶段聚合结果,如研究中详述。研究. 。集中式系统采用中央协调器,该协调器将任务委派给工作代理并综合其输出,如论文中所述。论文. 。去中心化系统形成一个点对点网络,代理直接通信以交换信息并达成共识,如 arXiv 文章中也提到。arXiv 文章. 。混合系统将分层监督与点对点协调相结合,将集中控制与灵活执行进行平衡,如论文中也概述。论文.
多代理系统的性能因配置而异,并且可能随着所使用的模型系列(例如 OpenAI GPT、Google Gemini 或 Anthropic Claude)而提高或降低,如研究中指出。研究. 。对于可并行化任务(如金融分析),与单代理相比,集中式协调使性能提高了 80.9%,如“arXiv 论文”和“Vals.ai 基准”中所引。arXiv 论文 和Vals.ai 基准. 。相反,需要严格顺序推理的任务(例如规划(例如,在PlanCraft), )中)显示,多代理变体由于通信开销碎片化了顺序思考过程,性能下降了 39-70%,如本研究所示。本研究.
存在一个显著的“工具协调权衡”:随着所需工具数量的增加,多个代理的协调开销不成比例地增加。独立多代理系统由于缺乏工作验证机制,错误放大了 17.2 倍,如 arXiv 论文中所发现。arXiv 论文. 。带协调器的集中式系统将错误放大降低到 4.4 倍,协调器充当关键的验证瓶颈,也如研究中所示。研究. 。具有 R 平方值 0.513 的预测模型表明,任务特征(例如工具数量和可分解性)可以预测最佳架构选择,如研究中突出。研究. 。该模型能够准确识别 87% 的未经窥探的任务配置的最佳协调策略,如论文中所报告。论文.
企业级代理系统
一些主要的科技供应商正在开发强大的框架和架构,以促进人工智能代理在企业环境中的采用和扩展。例如,Google Cloud 提供了可扩展和成本效益高的人工智能代理解决方案的设计模式,甚至可以在 Azure 等竞争对手平台上使用。他们的 Google Cloud Agent Development Kit (ADK) 提供了开发企业代理的脚手架、工具和模式,而 Agent Engine 则提供了管理其生命周期、协调工具和控制其推理的安全运行时环境。模型上下文协议 (MCP) 规范了应用程序如何为 LLM 提供上下文,而代理到代理协议 (A2A) 则实现了大规模代理之间的通信。

来源: the-decoder.com
Google Cloud 的供应链架构利用“Root”代理和功能强大的 Gemini 驱动的专用子代理进行跟踪和订单管理。
Google Cloud 提议的供应链架构是这种方法的实际应用示例,该架构涉及一个协调的“Root”代理和用于跟踪、分销和订单管理的专用子代理。这些由 Gemini 驱动的代理可以通过特定领域的数据进行调整,以优化响应并降低成本。Root 代理将请求路由到适当的子代理;例如,订单代理使用 MCP 从 BigQuery 数据仓库检索库存详细信息。同样,分销代理利用 MCP 服务器连接到外部 API 来下订单。
Databricks 与 BASF Coatings 合作,实施了一个生产就绪的多代理解决方案,以自动化以前需要大量人工工作的协调和分析任务。他们的 Marketmind 项目专注于销售与营销部门,利用专用的“Genie”代理和函数调用代理与 Databricks Vector Store Retrieval Tool 交互,以处理结构化和非结构化数据。Genie 代理通过自然语言界面访问结构化数据,通过利用 Unity Catalog 元数据构建用户问题的 SQL 查询。该系统采用监督者模式来协调这些专用代理,并与 Microsoft Teams 集成以实现实时执行。Marketmind 将在全球范围内供 1,000 多名销售代表使用,旨在将现场互动转化为及时、由 AI 驱动的行动,展示了多代理架构的可扩展性、模块化和增强的用户体验的实际业务影响。
Atos 还为“软件即服务”提供蓝图,旨在将工作流转化为软件交付的成果。他们的方法强调一个用于大规模信任的控制平面,包括运行时治理、零信任访问、行为安全、终止开关、可观察性和不可变审计跟踪。这种“主权代理人工智能”框架确保对整个技术堆栈中的关键数据、决策和人工智能行为进行深思熟虑的控制。
Microsoft 还提供了一个用于自适应、可扩展和安全的多代理系统的参考架构,重点是协调、治理和扩展专用代理。Camunda 8.8 引入了基于标准的、企业级代理,可以设计和执行高质量的流程。Camunda 的 Agentic BPMN 有助于创建人工智能代理,将其连接到 LLM 并部署它们。AI Agent Connector 使代理能够在端到端流程中自主运行并与 LLM 供应商集成,将编排从单个任务扩展到动态流程执行。Camunda 可以编排自己的代理和外部代理,维护流程状态和连续性,这支持更大的工具集和更好的可扩展性。

来源: stickpng.com
Databricks 的 Marketmind 项目将专用代理与 Microsoft Teams 集成以实现实时执行,将销售互动转化为 AI 驱动的行动。
扩展和学习中的挑战
迈向强大、可生产规模的人工智能代理系统仍然面临重大障碍。评估人工智能代理需要能够反映真实交互轨迹的端到端测量。关键指标包括端到端任务性能、效率和成本、工具使用的正确性、轨迹质量、鲁棒性和安全性。
可靠性、可重用性和治理对大规模代理系统构成了实质性限制。长时间运行的任务会放大数据累积错误,而非确定性会使评估和调试复杂化。面向工具的代理引入了新的安全风险,例如提示注入和副作用。系统级别的权衡——延迟与准确性、自主性与可控性、能力与可靠性——仍然知之甚少。
Google 内部的强化学习 (RL) 框架 Forge 解决了在扩展 RL 以用于复杂、现实世界代理时,系统吞吐量、训练稳定性和代理灵活性的基本三难困境。Forge 的整体方法结合了灵活的系统架构、算法设计、优化的异步调度和极高的训练-推理效率。它支持通过标准化的交互协议训练任意代理支架,已处理了十万多项不同的真实世界代理支架和环境。该系统实现了每天数百万个样本的吞吐量和一致的奖励收敛。

来源: swishdata.com
Google 的 Forge 框架提供了一种整体方法来解决在复杂环境中扩展 RL 的系统吞吐量、训练稳定性和代理灵活性的三难困境。
Forge 的 RL 系统包括一个代理端、中间件抽象层以及训练/推理端。代理端抽象了通用代理及其操作环境,而中间件将其与训练/推理端隔离。网关服务器处理代理和 LLM 之间的完成请求,分布式数据池异步收集 rollout 轨迹和报告。训练和推理端负责计算负载,包括用于高吞吐量令牌生成的 LLM 引擎和用于根据处理过的令牌序列更新策略的训练引擎。Forge 允许在不修改内部代理的情况下进行各种支架训练,从而确保对白盒和黑盒代理的一致优化。
结论
人工智能代理的出现代表了企业自动化的一次重大飞跃,它在自然语言和复杂计算之间提供了实际的接口。然而,有效的规模化部署需要战略性的架构选择、强大的治理模型和复杂的学习框架。主要技术创新者的解决方案突显了对模块化、专用协调和全面控制平面的明确关注,以克服固有的扩展挑战。随着这些智能系统变得越来越普遍,重点将仍然是确保其可靠性、安全性和效率,持续完善自主性与人类监督之间的平衡。
什么是人工智能代理?
人工智能代理是一种软件实体,它将基础模型(如 LLM 或 VLM)与推理、规划、记忆和工具使用能力相结合。它在外部环境中将用户意图转化为可操作的程序,从而弥合自然语言与真实世界计算之间的差距。
为什么扩展人工智能代理具有挑战性?
扩展人工智能代理会带来挑战,例如确保可靠性和可重用性、管理长时间运行任务中的累积错误、处理评估中的非确定性以及减轻提示注入等新安全风险。还存在延迟、准确性、自主性和可控性之间的系统级权衡,这些权衡尚未完全理解。
不同的多代理架构如何影响性能?
多代理架构(单代理、独立、集中式、去中心化、混合式)的选择对性能有重大影响。对于可并行化任务(例如金融分析),集中式协调可将性能提高 80% 以上。然而,对于需要严格推理的顺序任务,多代理系统由于通信开销碎片化了思考过程,性能会下降 39-70%。
什么是“工具协调权衡”?
“工具协调权衡”指的是随着所需工具数量的增加,多个代理的协调开销不成比例地增加。独立多代理系统在没有验证机制的情况下会显著放大错误,而带协调器的集中式系统可以通过充当验证瓶颈来限制错误传播。
有哪些扩展人工智能代理的企业解决方案?
领先的技术提供商,如 Google Cloud、Databricks、Atos、Microsoft 和 Camunda,为企业级人工智能代理部署提供解决方案。这些解决方案通常包括强大的开发套件、安全运行时环境、标准化通信协议(如 MCP 和 A2A)以及强调模块化、专用协调和强大治理框架的架构模式。