DyTopo：基于语义匹配的动态拓扑路由用于多智能体推理

论文信息

标题: DyTopo: Dynamic Topology Routing for Multi-Agent Reasoning via Semantic Matching

作者: Yuxing Lu, Yucheng Hu, Xukai Zhao, et al.

发布日期: 2026-02-05

arXiv ID: 2602.06039v1

PDF 链接: 下载 PDF

3 分钟速览

研究问题：多智能体推理系统通常采用固定的通信拓扑，无法适应迭代式问题解决过程中不同阶段的需求变化。本文研究如何让智能体间的通信结构根据当前任务目标动态调整。
核心方法：提出 DyTopo 框架，由管理者（Manager）指定每轮目标，各工作智能体输出自然语言的 “需求”（query）和 “能力”（key）描述，通过语义匹配构建稀疏有向通信图，仅沿激活的边路由私密消息。
关键结果：在代码生成和数学推理的四个基准、四种 LLM 骨干上，DyTopo 在所有 16 个配置中均优于最强基线，平均提升 6.2 个百分点（见表 2）。
主要局限：语义匹配依赖固定的预训练嵌入模型，未探索不同嵌入模型的影响；当智能体产生的需求/能力描述存在误导时，可能导致消息路由错误和误差传播（见论文第 6 节 “Impact Statement”）。
适合读者：关注大语言模型多智能体系统、协作推理、动态通信网络的研究者和工程实践者，尤其适合希望构建可解释、高效的多轮推理管线的读者。

论文背景和研究动机

基于大语言模型（LLM）的多智能体系统已成为多轮推理的重要范式。通过实例化多个角色专用的 LLM 智能体并允许它们多轮交互，系统可以迭代地完善局部解、交叉检查中间步骤，并整合互补技能。这种协作风格特别适合复杂问题域，其中有效推理源于专用智能体的协同配合。

然而，现有系统的一个核心不足在于通信结构的固化。大多数管线使用固定的、贯穿整个轨迹的交互模式（如广播讨论或脚本化的轮流发言），在所有轮次中重用相同的拓扑。实际上，多轮推理是阶段敏感的：早期轮次通常受益于广泛探索和共享问题框架，而后期轮次则需要选择性的、高精度的信息交换，以诊断失败并收敛到一致的解。这意味着通信拓扑应该是一个自适应对象，而不是一个静态设计选择。

「论文证明多轮推理的阶段性特征决定了通信结构需要动态调整，而非静态复用（见论文第 1 节）。」

核心方法和技术细节

DyTopo 的核心思想是：在每一轮中根据管理者指定的轮次目标，通过语义匹配重新构建一个有向的稀疏通信图。系统包含一个管理者（Manager）元智能体和 $N$ 个异构工作智能体。

单轮执行与描述生成

每轮开始时，管理者提供轮次目标 $C_{task}^{(t)}$ 。每个智能体 $a_i$ 基于角色描述 $\rho_i$ 、轮次目标和本地记忆 $\mathcal{H}_i^{(t)}$ 进行一次前向推理，输出四个组件：公共消息 $m^{(t)}_{pub,i}$ 、私密消息 $m^{(t)}_{priv,i}$ 、查询描述 $s^{(t)}_{q,i}$ （当前需要什么信息）和键描述 $s^{(t)}_{k,i}$ （能为他人提供什么信息）。

语义匹配与拓扑构建

系统使用固定的预训练语义编码器 all-MiniLM-L6-v2 将描述符映射为向量，计算归一化后的余弦相似度：

r_{i,j}^{(t)} = (\hat{\mathbf{q}}_i^{(t)})^{\top}\hat{\mathbf{k}}_j^{(t)} \in [-1, 1]

然后通过硬阈值构建稀疏邻接矩阵：

A_{j\to i}^{(t)} = \mathbb{I}\left(r_{i,j}^{(t)} > \tau_{\text{edge}}\right) \cdot (1 - \delta_{ij})

这意味着只有当智能体 $a_j$ 的能力描述与智能体 $a_i$ 的需求描述语义匹配时，才建立从 $a_j$ 到 $a_i$ 的有向边，允许 $a_j$ 的私密消息路由给 $a_i$ 。

同步屏障与记忆更新

所有智能体在生成输出后，系统先构建拓扑再路由消息，然后才更新本地记忆：

\mathcal{H}_i^{(t+1)} = \mathcal{H}_i^{(t)} \oplus m_{pub,i}^{(t)} \oplus \Sigma_{\sigma_i^{(t)}}\left(\{m_{priv,j}^{(t)} \mid j \in \mathcal{N}^{(t)}_{in}(i)\}\right)

其中 $\Sigma_{\sigma^{(t)}}(\cdot)$ 按语义相关性降序排列路由消息，确保消息整合的确定性。

管理者控制层

管理者维护全局视图，根据所有公共消息和轮次目标决定是否终止交互：

y^{(t)} = \begin{cases}1 & \text{if } \Phi(S_{global}^{(t)}) \geq \gamma_{success}\\0 & \text{otherwise}\end{cases}

若不终止，管理者更新下一轮的轮次目标，实现闭环的宏-微观双层反馈控制。

创新点和贡献

第一，首次提出了全动态、逐轮重构的通信拓扑机制。 不同于静态拓扑或随机拓扑，DyTopo 的通信图在每一轮都根据智能体实时产生的需求/能力描述生成，真正实现了拓扑的阶段敏感性。

第二，设计了基于自然语言语义的键-查询匹配方案。 这是使动态路由成为可行的关键组件。智能体只需输出轻量级的自然语言描述符，系统通过固定的嵌入模型进行相似度计算，无需额外训练。

第三，提供了可解释的协调轨迹。 每轮的有向图 $G^{(t)}$ 对应明确的描述符和相似度分数，研究者可以检查通信路径如何随时间重新配置，哪些模式与成功或失败相关。论文给出了代码生成实例中从探索到验证再到组装的拓扑演化可视化（见图 4）。

第四，通过稀疏路由控制了通信预算。 硬阈值 $\tau_{\text{edge}}$ 直接控制激活边的数量，避免无关消息的上下文污染，降低了计算开销（论文附录 A 分析了复杂度优势）。

实验结果分析

「论文在四个基准和四种 LLM 骨干上进行了全面评测（见论文第 5 节）。」

主要性能表现

在代码生成（HumanEval、APPS-Competition）和数学推理（MATH-500、Omni-MATH）任务上，DyTopo 在所有 16 个骨干×数据集组合中均达到最优，平均相较最强非 DyTopo 基线提升 6.09 个百分点。

特别值得注意的是：

在 MATH-500 上，使用 Llama3-8B 时，DyTopo 相较随机拓扑（20.00%）和 AgentScope（30.00%）分别提升 27.14 和 17.14 个百分点，达到 47.14%。
在 Omni-MATH 上使用 Qwen3-8B，DyTopo 达到 51.43%，超过 AgentScope 的 35.71%（提升 15.72 个百分点）。

通信轮次的影响

实验表明性能随轮次呈非单调变化（见图 3）。HumanEval 在第 5 轮达到峰值（92.07%），之后略有下降；MATH-500 在第 9 轮达到峰值（87.14%），说明困难推理任务受益于更长的迭代求精。这验证了最优通信预算需要任务依赖性自适应。

拓扑演化与可解释性

论文展示了 HumanEval 实例的拓扑演化轨迹（见图 4）。早期轮次边密度较高，对应探索性问题分解；中间轮次通信变得选择性更强，集中在验证和修正角色间；最后一轮拓扑精简为仅包含解决方案组装的依赖边。

相似度阈值消融

阈值 $\tau$ 控制图的稀疏性（见表 3）。APPS-Competition 的最优值为 0.3（49.81%），Omni-MATH 的最优值为 0.4（52.86%）。极端低值导致拓扑过密、无关消息涌入；极端高值导致拓扑过稀、阻止有用信息流。最优值因任务而异，进一步说明通信结构是任务敏感的。

实践建议

对于希望将 DyTopo 应用于实际多智能体推理系统的开发者，以下建议可供参考：

角色设计需配合语义描述生成能力。 论文中每个工作智能体都有明确的职责范围（如 Developer、Researcher、Tester），这有助于产生聚焦的需求/能力描述。设计角色时，应确保其职责边界足够清晰，使自然语言描述符易于语义匹配。
相似度阈值需要针对具体任务调优。 实验表明最优阈值因数据集而异（0.3 vs 0.4），建议通过在小规模验证集上进行网格搜索来确定。起始值可设为 0.3–0.5 之间。
管理者逻辑是收敛的关键。 论文中管理者的终止条件与轮次目标更新密切相关。在实际部署中，应设计清晰的完成标准（如 “代码存在且测试通过” 或 “解存在且验证通过”），并允许管理者在必要时重新聚焦后续轮次的子目标。
稀疏路由带来的效率收益需要实际测量。 论文的复杂度分析（附录 A）指出语义匹配开销（毫秒级）远小于 LLM 推理开销（秒级），且稀疏路由减少了 LLM 的上下文处理量。论文的表 8 显示，DyTopo 以 AgentScope 48% 的 token 消耗实现了更高准确率，这在 API 调用成本敏感的部署场景中直接转化为成本优势。
利用拓扑演化轨迹进行调试。 DyTopo 的可解释协调图是诊断系统行为的有效工具。如果某个智能体一直未收到关键消息，可以检查其查询描述是否准确表达了真实需求，或阈值是否过高阻断了必要的边。