BroadRouter
开始使用

多智能体系统(multi-agent system)

更新于

多智能体系统是一种大模型应用:多个智能体各自拥有提示词、工具和上下文,分别处理同一任务的不同部分。常见设计是编排者-工作者模式:主智能体负责规划,并行启动多个工作智能体,再汇总它们的结果。

又称: 多智能体、多智能体系统、多 Agent、多智能体协作、多智能体编排、编排者-工作者、multi-agent、multi-agent system、multi-agent orchestration、orchestrator-worker

单个智能体一步一步完成任务。多智能体系统则把任务拆开,让各部分同时运行。

工作原理

Anthropic 这样描述它的 Research 功能:“orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.”(译文:编排者-工作者模式,由主智能体协调整个流程,同时把工作委派给专门的子智能体。)主智能体读取问题、制定计划,启动若干并行搜索的子智能体,再根据它们的摘要写出最终答案。

也有其他设计。AutoGen 论文(Wu 等,2023)描述了一个框架,其中 “customizable, conversable”(译文:可定制、可对话的)智能体彼此交谈、与人和工具交互,开发者用自然语言或代码来编写对话模式。

一次编排者-工作者运行的示例:

Lead:     plan -> start 3 workers
Worker 1: search docs for topic A  -> 1,500-token summary
Worker 2: search docs for topic B  -> 1,500-token summary
Worker 3: search docs for topic C  -> 1,500-token summary
Lead:     read 3 summaries -> final answer

每个工作智能体在搜索和阅读上消耗自己的 token。主智能体只看到摘要。

为什么重要

  • 范围广的任务质量更好。 Anthropic 称,在其内部研究评测中,以 Claude Opus 4 为主、Sonnet 4 为工作者的多智能体配置 “outperformed single-agent Claude Opus 4 by 90.2%“(译文:比单智能体 Claude Opus 4 高出 90.2%)。
  • token 成本。 同一篇文章说,智能体消耗的 token 约为对话的四倍,多智能体系统则 “about 15× more tokens than chats”(译文:约为对话的 15 倍)。文章还称,在 BrowseComp 上,仅 token 用量一项就解释了 80% 的性能差异。智能体越多,账单通常越大。多智能体成本一文比较了按 token 计费与包月计费。
  • 适配度。 Anthropic 指出编程任务不太适合,因为 “most coding tasks involve fewer truly parallelizable tasks than research”(译文:大多数编程任务中真正可并行的部分比研究任务少),而且需要大量共享上下文、或智能体之间相互依赖的任务也不适合。
  • 并发。 并行的工作智能体就是并行的请求,所以你的并发上限决定了能提速多少。

在 BroadNet Inference 上

BroadNet 提供模型,编排在你的框架中运行。指南介绍了如何在 CrewAI 和 OpenAI Agents SDK 中使用 BroadNet 的 base URL。

按量付费密钥每分钟允许 30 个请求,同时最多 4 个请求。DeepSeek V4.1 Flash 的包月套餐不计 token,账单里就没有了 token 倍增的问题,但每个会话一次只能处理一个请求。同一时刻可能同时进行的每个模型请求,都要买一个会话:三个工作智能体同时运行需要三个会话,如果主智能体在它们工作时还在调用模型,就需要四个。在包月 API 上运行并行编程智能体一文介绍了常见模式。

常见问题

多智能体系统一定比单个智能体好吗?

不一定。Anthropic 称,在范围广的研究任务上提升很大,但多智能体系统消耗的 token 约为普通对话的 15 倍,而且大多数编程任务中真正可并行的部分比研究任务少。

用什么框架构建多智能体系统?

AutoGen、OpenAI Agents SDK、CrewAI 以及 Claude Code 等编程工具都在不同程度上支持。AutoGen 的论文描述了彼此对话、与人对话、与工具交互的智能体。

多智能体系统需要多少个并行请求?

同一时刻调用模型的每个智能体各需一个。一个主智能体加四个工作智能体同时运行,就需要五个同时进行中的请求。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity