跳转至

ACL 2026 | RouteMoA:无需预推理的动态路由,实现高效多智能体混合

Ch01.1112 ACL 2026 | RouteMoA:无需预推理的动态路由,实现高效多智能体混合

📊 Level ⭐⭐ | 5.6KB | entities/acl-2026-routemoa无需预推理的动态路由实现高效多智能体混合.md

ACL 2026 | RouteMoA:无需预推理的动态路由,实现高效多智能体混合

来源: 机器之心

发布日期: 2026-05-02

原文链接: https://mp.weixin.qq.com/s/nHWEqgpdH2FdZ08AaPylSg


本篇论文已被 ACL 2026 接收,主要作者来自上海交通大学自动化与感知学院 IWIN 中心团队。团队负责人为关新平教授,指导老师为陈彩莲教授和乐心怡教授,合作作者还包括南洋理工大学陶大程教授。其他作者来自腾讯、上海人工智能实验室、香港中文大学等机构。第一作者王骥泽为上海交通大学博士生,研究方向为大模型智能体。

近年来,大语言模型的发展,正在从 “单模型能力提升” 走向 “多模型协作”。这是一个很自然的方向:既然不同模型各有所长,有的擅长数学,有的擅长代码,有的更懂医学,那为什么不让它们协同起来,共同解决更复杂的问题?

Mixture-of-Agents(MoA)正是在这样的背景下提出的。它通过让多个模型并行生成、逐层交互、反复融合,往往能够得到比单一模型更强的结果。问题也很明显:性能提升的同时,成本和延迟也随之迅速上升。

在标准 MoA 中,每一轮通常都要调用多个模型,再基于它们的输出进行筛选和融合。但究竟该让哪些模型参与、哪些模型可以跳过,往往缺乏明确的选择机制。模型越多、层数越深,整体开销就越高,在大规模模型池场景下,系统效率和可扩展性都会面临很大挑战。

也正因如此,研究者开始尝试让 MoA 变稀疏。例如,一些方法如 Sparse MoA 会先让模型池中的所有模型生成回答,再通过额外的评审模型进行打分和筛选,只保留一部分模型进入后续协作。这样虽然减少了后续融合的负担,但本质上仍然绕不开一个问题: 为了决定该选谁,系统还是得先让所有模型都推理一遍。

于是,这篇工作的核心问题就变得非常直接: 我们真的需要先让所有模型都回答一遍,才能决定该选谁吗?

  • 论文标题:RouteMoA: Dynamic Routing without Pre-Inference Boosts Efficient Mixture-of-Agents

  • 论文链接:https://arxiv.org/abs/2601.18130

  • 代码链接:https://github.com/Jize-W/RouteMoA

一句话总结:RouteMoA 的核心思想是,通过在推理前进行模型能力预测,避免对所有模型进行无效推理。

现有方法的问题:

效率瓶颈不在融合,而在全量推理

当前 MoA 系列方法的一个共同假设是:要判断哪个模型更好,必须先看到它的输出。因此,无论是经典 MoA,还是引入 judge 的 Sparse MoA,本质上都绕不开一个步骤: 所有模型先推理 -> 再筛选 -> 再融合。

这带来两个问题:

第一,计算成本无法下降。即使最后只用少数模型,前面已经为所有模型付出了推理代价。

第二,难以扩展到大模型池。当模型数量增加时,全量推理会迅速变得不可承受,甚至超出上下文限制。

也就是说,瓶颈并不在 “如何选”,而在 “选之前已经太贵了”。

RouteMoA:

把 “选模型” 前移到推理之前

RouteMoA 的关键创新,是把模型选择从 “后验判断” 变成 “先验预测 + 轻量修正”。

整个流程可以分为三个步骤:

  • 先验筛选:不推理,也能判断谁更可能做对

RouteMoA 引入了一个轻量级 scorer,只根据用户 query,就预测每个模

原文存档


关联