🚀 MasRouter: 多智能体系统的LLM路由学习 🔥
Yanwei Yue⋆†, Guibin Zhang⋆†, Boyang Liu⋆†, Guancheng Wan♣, Kun Wang♠, Dawei Cheng⋆, Yiyan Qi♦
⋆同济大学 ♣UCLA ♠南洋理工大学 ♦IDEA研究院
图1: 单智能体路由与多智能体路由的范式对比
🌟 核心创新
我们首次提出多智能体系统路由(MASR)问题,将LLM选择、协作模式确定和角色分配统一到一个框架中。MasRouter通过级联控制器网络逐步构建高效能、低成本的多智能体系统。
性能提升
1.8%~8.2%
在MBPP上超越SOTA方法
成本降低
52.07%
在HumanEval上相比SOTA方法
集成节省
17.21%~28.17%
与主流MAS框架集成
💡 技术亮点
- 协作模式确定器:通过变分潜变量模型选择最优协作拓扑
- 角色分配器:通过结构化概率级联逐步生成智能体角色
- LLM路由器:将LLM推荐建模为多项式分布问题
- 端到端优化:平衡性能与成本的联合训练目标
图2: MasRouter整体框架
📊 实验结果
在五个基准测试(MBPP、HumanEval等)上全面超越现有方法:
- 平均性能提升3.51%
- HumanEval上成本从$0.363降至$0.185
- 无缝集成现有MAS框架,成本降低17.21%~28.17%