AgentPrune – 革新多智能体通信的高效框架

AgentPrune 是什么

AgentPrune 是由同济大学、香港中文大学等机构联合开发的开源多智能体通信优化框架,旨在解决大型语言模型(LLM)驱动的多智能体系统(MAS)中通信冗余和效率低下的问题。其核心突破在于将复杂对话关系建模为时空拓扑网络,通过动态分析智能体间的信息交互模式,智能识别冗余或有害的通信内容,并基于参数化图掩码技术,在训练初期完成通信拓扑优化,生成精简高效的对话路径。

核心功能

  • 通信冗余识别与剪枝 :首次定义并识别 LLM 多智能体系统中的通信冗余,通过一次性剪枝技术,有效剔除不必要的通信内容,平均减少 72.8% 的 token 消耗。
  • 时空图建模与优化 :将多智能体系统建模为时空图,包含空间边和时间边,通过参数化图掩码进行优化,同时捕获轮内和跨轮对话依赖关系,实现动态优化。
  • 低秩稀疏图掩码应用 :利用低秩稀疏图掩码,使通信结构更加稀疏,减少冗余、噪声以及恶意消息,增强对网络攻击的鲁棒性,将通信成本降低至传统方法的 5.6%-25.6%。
  • 成本与性能优化 :在多个基准测试中,以仅 5.6 美元的成本达到与现有最先进的拓扑相当的效果,且能无缝集成到现有多智能体框架中,实现 28.1%-72.8% 的 token 减少,显著提升系统性能。
  • 对抗攻击防御 :能够成功防御两种类型的智能体对抗攻击,带来 3.5%-10.8% 的性能提升,有效保障系统稳定运行。

技术原理

  • 时空图建模 :将多智能体系统的通信结构建模为时空图,节点表示智能体,边表示通信连接,分为空间边和时间边,以全面捕捉智能体间的复杂交互关系。
  • 参数化图掩码 :通过策略梯度方法对图掩码进行优化,使其能够反映通信连接的重要性,在最大化系统效用的同时,最小化通信冗余。
  • 低秩稀疏性 :利用矩阵低秩分解技术和稀疏化方法,自动识别关键通信路径,去除不重要的连接,从而降低通信成本并提高效率。
  • 一次性剪枝 :在训练初期对图掩码进行有限次优化后,通过一次性剪枝剔除不重要的通信连接,生成稀疏的通信图,后续通信严格遵循该图进行消息传递。

支持平台

AgentPrune 无缝兼容 AutoGen 和 GPTSwarm 等主流多智能体开发框架,仅需 5 行代码即可完成部署,可作为插件集成到现有 MAS 框架中,无需大规模修改原有系统。

团队介绍

AgentPrune 的开发团队由同济大学、香港中文大学等知名高校的研究人员组成,他们在人工智能、机器学习和自然语言处理等领域拥有深厚的专业知识和丰富的研究经验,且该研究成果已被 ICLR'25 收录。

项目资源

业务场景

  • 多智能体系统优化 :可集成到现有多智能体框架中,如 AutoGen 和 GPTSwarm,显著减少通信成本,同时保持或提升系统性能。
  • 经济高效的通信拓扑 :通过一次性剪枝技术,生成稀疏的通信拓扑,减少 Token 消耗,降低经济成本。
  • 复杂任务协作 :适用于需要多个智能体协作完成的复杂任务,如数学推理、代码生成和常识问答等,优化通信结构,提高任务完成效率。
  • 工业和企业级应用 :在工业自动化和企业级应用中,优化智能体之间的通信,减少资源浪费,提高系统的整体效率。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注