SafeSieve 论文精读：从角色判断到合作经验，怎样逐步剪掉多智能体通信

Date 2026-10-18 · Category blog · Status finished · Confidence likely

论文解读, 大语言模型, 多智能体

多个大模型组成团队，可以分别负责分析、计算、编程和检查，但成员之间的讨论也有代价。同一段回答传给多个接收者，会被读取多次；重复意见、错误推断和恶意提示还可能沿着连接传播。增加通信量，未必能增加有效信息。

SafeSieve 研究怎样逐步缩减这些通信。它先根据角色判断合作潜力，再积累成功任务中的连接记录，逐渐改变评分依据；剪枝时还引入分组结构，优先处理部分跨组连接。

本文固定依据 2026 年 3 月 25 日的 arXiv v3 PDF，结合原论文图、明确标注的教学算例和固定提交的公开代码展开。实验数字来自论文报告，未独立重跑。论文的设计意图、公式直接表达的性质，以及代码当前执行的规则会分别说明。

论文信息与阅读路线

项目	信息
题目	SafeSieve: From Heuristics to Experience in Progressive Pruning for LLM-based Multi-Agent Communication
作者	Ruijia Zhang、Xinyan Zhao、Ruixiang Wang、Sigen Chen、Guibin Zhang、An Zhang、Kun Wang、Qingsong Wen
阅读版本	arXiv:2508.11733v3，2026-03-25，共 9 页
原文	arXiv 页面、PDF
官方代码	csgen/SafeSieve
核对的代码版本	固定提交 0af1b31，重点查看 MMLU 调用路径
相关精读	AgentPrune：学习谁该听谁，让多智能体通信更省 token

图片可点击查看原尺寸。理解本文，先区分三个对象：Agent 负责生成内容，评分矩阵衡量连接价值，通信掩码决定连接当前是否允许使用。后文的“剪枝”主要修改通信掩码；成员移除发生在相应的孤立节点检查阶段。

图1：为什么要把初期判断与运行经验结合起来

图1，PDF 第1页。上排对比已有方法的通信结构；下排展示 SafeSieve 将启发式评估、历史反馈、分组与剪枝结合的思路。人物表示 Agent，连线表示通信，方格矩阵表示连接及评分的示意。

论文把通信优化概括为预先设计与运行中剪枝两条路线。前者在执行前形成较精简的拓扑；后者从基础结构出发，根据优化结果减少连接或参与成员。这个分类用于定位本文，不足以代替每项工作的完整算法定义。

SafeSieve 关注两个问题。首先，系统启动时缺少合作记录，角色信息可以提供初始依据；随着任务推进，实际合作成绩应发挥更大作用。其次，单独按边的分数排序，可能忽略成员之间成组配合的关系。

图1下排第一步是 Heuristic Evaluation，即启发式评估：估计哪些成员适合交流。第二步是 Historical Clustering and Pruning：根据历史反馈形成分组，再缩减连接。最右侧保留了两个双人组合，图示本身允许不同小组之间停止直接通信。

怎样表示“谁能参考谁”

论文将第 $t$ 步的团队表示成有向通信图 $G_{t} = (V, E_{t})$ 。 $V$ 是 Agent 集合， $e_{ij}$ 表示从 Agent $i$ 到 Agent $j$ 的通信边。

两类矩阵承担不同职责：

对象	含义	一个位置表示什么
评分矩阵 $E (t)$	当前连接价值	$E_{ij} (t)$ 越高，表示该连接按当前规则更值得保留
掩码矩阵 $M (t)$	当前允许的通信范围	$M_{ij} = 1$ 允许该连接， $M_{ij} = 0$ 屏蔽该连接

设 A 的回答原本会进入 B 的参考信息，关闭 A→B 就是不再通过这条连接把相应输出交给 B。A 仍可向其他成员传递内容，A 的信息也可能沿其他路径间接到达 B。

候选图与实际执行图也要区分。核对的代码先检查掩码，再对允许的连接进行概率选择和环路检查。因此，候选掩码里的每一个 1，不一定在每次实际执行中都成为一条边。

图2左侧：先建立语义启发式评分

图2，PDF 第3页。左侧为角色与模型配置、初始边评分；中间为分批执行任务并更新反馈；右侧为分组剪枝及后续协作。图中正负数用于表示反馈示意，正文式（3）的历史统计使用成功贡献的 0/1 计数。

原文式（2）组合角色嵌入相似性与专家 LLM 的兼容性判断：

S_{ij}^{compat} = γ \frac{e _{i} \cdot e _{j}}{∥ e _{i} ∥∥ e _{j} ∥} + (1 - γ) Q (S_{ij}^{expert}) .

$e_{i}, e_{j}$ 是角色嵌入；余弦相似度反映语义接近程度。 $S_{ij}^{expert}$ 表示专家对功能兼容性的评估， $Q$ 将其量化成五个等级。 $γ$ 调节两类依据的比重。

例如，程序员与测试员的职责不同，却可能形成互补；两个角色描述相近的成员，也可能只是重复讨论。这个例子说明专家评估为何同时关注合作互补性，它不对应论文的一项单独实验。

初始化提供的是待修正的判断。图2左下的矩阵表示：在缺少历史成绩时，先为候选连接建立一套起始评分。

图2中间：历史反馈怎样逐渐接管评分

论文式（3）先累计一条边被记为有助于正确任务的次数。记：

h_{ij} (t) = τ = 1 \sum t 1_{ij}^{correct} (τ),

则历史互补性为：

C_{ij}^{hist} (t) = \frac{h _{ij} ( t )}{\sum _{(k, l) \in E_{t}} h _{k l} ( t ) + n ^{2} ε} .

分母按当前活动边集合归一化， $ε$ 用于数值稳定。若某条边贡献计数为 20，分母约为 100，它的分数约为 0.2；这表示相对贡献计数份额，并非“使用该边的任务有 20% 成功率”。

公开代码的 update_complementarity() 在任务成功时累加实际使用的邻接矩阵。因而，该统计更接近成功执行记录中的连接共现，尚不能证明某条边对成功具有独立的因果作用。被频繁使用的边与被偶尔使用的边，也没有在式（3）中按各自尝试次数计算成功率。

随后，式（4）融合初始判断与历史统计：

E_{ij} (t) = (1 - \frac{t}{T}) α_{0} S_{ij}^{compat} + [β_{0} + (β_{m a x} - β_{0}) \frac{t}{T}] C_{ij}^{hist} (t) .

随着进度 $t / T$ 增大，语义项的系数下降，历史项的系数上升。这就是标题中 From Heuristics to Experience 的含义：初期依据角色安排合作，后期更多依据累积表现。两项权重不必相加为 1。

式（4）描述的是论文调度。核对的 MMLU 代码保持 alpha 为配置值，通过批次推进增加 beta，并将融合分数缩放到 $[0, 1]$ ；这与论文所写的语义权重线性下降、后续 Z-score 标准化并不完全相同。

图2右侧：一次剪枝具体怎样执行

先判断时机，再形成协作分组

论文要求 $t \geq B_{start}$ ，并且当前累计剪枝率 $R (t) < R_{m a x}$ 。前者保留预热阶段，后者限制继续剪枝。

分组时，作者选择若干 terminal Agent 作为中心，再把其他成员分配给中心。记中心集合为 $T$ ， $f (i)$ 为 Agent $i$ 的分组。式（6）的中心选择，按其双重取倒数的写法，可理解为偏向总体连接分数较高的成员。

论文随后用式（7）表达 0-extension 分配优化。作者希望用分组结构辅助保留有效合作；该式的权重方向与公开分组函数存在需要核对的问题，见后文“局限与实现边界”。

三个条件同时满足，进入规则删除集合

优先处理的边需要同时满足：

f (i) \neq = f (j), i, j \in / T, E_{ij} (t) < θ (t) .

对应三个条件：跨组、两端均非中心、标准化评分低于阈值。任一端点为中心，或者连接处于组内，都会阻止它直接进入这一规则集合。

式（5）让阈值随时间提高：

θ (t) = θ_{0} + (θ_{m a x} - θ_{0}) [1 - exp (- k max (\frac{t}{T}, 0))] .

其设计意图是先谨慎尝试，积累经验后逐步扩大低分连接的筛选范围。

候选不足时，按预算补删

本轮目标删除量为 $B = r ∣ E_{active}^{(t)} ∣$ 。若规则集合不足 $B$ 条，就将剩余连接按分数由低到高补充。因此，组内边和涉及中心的边获得优先保留，但预算补充仍可能删到它们。

下面是教学算例。假设已得到两组： ${A, B, C}$ 与 ${D, E, F}$ ，中心分别为 A、D。当前有 10 条有效边，所列分数处于同一比较尺度；设阈值 0.50，本轮目标删除 30%，即 3 条。

连接	分数	结构	本轮处理
A→B	0.85	组内，涉及中心	保留
B→C	0.80	组内	保留
C→A	0.90	组内，涉及中心	保留
D→E	0.86	组内，涉及中心	保留
E→F	0.75	组内	保留
F→D	0.88	组内，涉及中心	保留
B→E	0.20	跨组，两端非中心	规则优先删除
E→B	0.25	跨组，两端非中心	规则优先删除
C→F	0.65	跨组，两端非中心	为补足预算而删除
F→C	0.70	跨组，两端非中心	保留

规则先选出 B→E、E→B，两条都低于阈值。还差一条时，剩余边中评分最低的是 C→F，虽然它高于阈值，仍被补充删除。最终保留 7 条连接。

教学示例，依据论文规则绘制，非实验数据。每行是发送者，每列是接收者；红色位置对应 B→E、E→B、C→F，剪枝后从 1 变成 0。分组结果为演示预先给定，并未声称运行了 0-extension 求解器。

修改掩码，限制后续直接传递

式（9）执行：

M_{ij}^{(t + 1)} = M_{ij}^{(t)} 1 {(i, j) \in / E_{prune} (t)} .

选中的位置置零，其他位置沿用原值。该式中已经为零的连接继续保持为零，没有恢复已删边的步骤。后续构图时屏蔽这些连接，接收方的直接参考来源随之减少。

剪边后，论文式（10）再按其节点规则检查成员，式（11）重新标准化分数，并按剪枝前后的分数范围调整历史权重。需要注意，式（10）把“出边和为零”写成孤立条件，而公开代码检查启用的空间、时间连接的入边与出边，二者定义不同。

公开代码实际怎样剪，与论文有哪些差别

这里固定查看 0af1b31 的 MMLU 脚本、图结构代码及剪枝辅助函数。以下是对该调用路径的核对，不代替其他脚本的逐项审计。

外层脚本先检查批次时机、剪枝次数和是否存在低于动态阈值的活动边。默认从第 10 批次起、每 5 批次检查一次，最多剪 7 次。这是按批次推进的配置，不应解释为每个 Agent 每说一句话就立即剪一次。

内部剪枝函数以零矩阵为起点，仅把“同组或涉及中心”的当前有效边置为 1；若保留太多，再按分数补删。内部没有逐条检查跨组边是否低于阈值。这个流程可以概括成：

# 对当前有效边进行结构筛选
new_mask = zeros_like(old_mask)
for i, j in active_edges:
    if same_group(i, j) or is_terminal(i) or is_terminal(j):
        new_mask[i, j] = 1

# 若保留数过多，再从低分边开始补删
if count(new_mask) > target_keep:
    remove_lowest_scoring_kept_edges()

环节	论文描述	核对的公开实现
低分阈值	每条规则候选边需低于阈值	在外层决定是否启动剪枝
结构筛选	跨组、非中心、低分三条件同时满足	直接屏蔽跨组且两端非中心的边
剪枝预算	设定目标，不足时补删	保留太多时补删，删多后没有补回步骤
分组	0-extension 优化	基础分配规则，见后文
成员检查	式（10）使用出边和条件	检查相应掩码的入边与出边，并按配置保留最少人数

仍以上一节的给定分组为例，代码的结构筛选会直接删掉四条非中心跨组边，剩 6 条，少于目标保留的 7 条；由于没有补回步骤，实际删除量可能超过目标。这个算例只说明给定分组后的规则差别，不表示当前分组函数会自动产生那两个三人组。

与 AgentPrune、AgentDropout 等工作的区别

SafeSieve 的区别主要在评分来源、更新调度与删边规则。任务反馈和可学习通信结构在前作中已经存在。

工作	原作的主要机制	与本文的区别
GPTSwarm	将语言 Agent 表示成可优化的计算图，优化提示与连接	SafeSieve 进一步指定语义、历史与分组如何共同驱动渐进剪枝
G-Designer	用图神经网络和变分图自编码器生成任务相关拓扑	SafeSieve 从已有通信图出发，通过运行评分与规则逐步缩减
AgentPrune	用任务反馈、策略梯度与低秩约束优化掩码，再进行 Top-k 一次性剪枝	SafeSieve 引入显式语义初始化、变化的历史权重及分组辅助的多次剪枝
AgentDropout	学习各轮邻接矩阵，按加权度删节点，再学习与删除连接	SafeSieve 主要从边评分、分组和阈值出发，再清理满足条件的成员

表中前作机制依据各自原文：GPTSwarm、G-Designer、AgentPrune、AgentDropout。

因此，本文值得关注的是这套具体组合能否带来更好的通信与性能取舍。仅把前作描述为“没有反馈”或“不会考虑结构”，会遗漏其学习机制、低秩约束等已有设计。

主实验：表现与通信量一起看

主实验使用 DeepSeek-V3，并用 GPT-4o-mini 进行另一组模型规模实验，覆盖 MMLU、GSM8K、SVAMP、HumanEval、AQuA、MATH-500 六个数据集。论文表1的六项平均指标如下：

方法	DeepSeek-V3	GPT-4o-mini
Vanilla	89.59%	80.36%
CoT	90.58%	80.35%
GPTSwarm	91.15%	84.56%
G-Designer	92.00%	86.80%
AgentPrune	92.78%	87.28%
AgentDropout	92.62%	86.40%
SafeSieve	94.01%	87.61%

在 DeepSeek-V3 下，SafeSieve 的六项结果均为该表最高，平均值比 AgentPrune 高 1.23 个百分点，比 AgentDropout 高 1.39 个百分点。GPT-4o-mini 下平均值比 AgentPrune 高 0.33 个百分点，但部分单项由其他方法领先，例如 MMLU 的 G-Designer 和 HumanEval 的 GPTSwarm。

表注说明部分 Vanilla、CoT 及 GPT-4o-mini 基线数值来自已有工作，其他结果由作者评测。表1没有给出重复运行的方差或置信区间，均值差不能直接等同于统计显著性。

图3，PDF 第6页。横轴是准确率，纵轴是 token 消耗；左、中、右分别是 MMLU、SVAMP、HumanEval。主要读取各十字中心的位置：向右表示表现更高，向下表示消耗更少。

SVAMP 上，正文报告 AgentPrune 为 95.40%、1.23M token，SafeSieve 为 96.60%、1.03M token；对应准确率增加 1.20 个百分点，token 减少约 16.3%。这支持在该实验设定下减少部分通信仍可保持或提高表现。

图中也存在 token 更低、准确率稍低的配置。因此，SafeSieve 展示的是较好的性能与通信量取舍，不能据图认定它在每个任务上都消耗最少。

消融：三个组件分别带来什么

表2固定在 HumanEval 上比较完整配置、移除组件和替换策略：

配置	准确率	提示 token	生成 token	相对不剪枝的 token 节省
全连接，不剪枝	95.50%	321K	123K	—
去掉启发式初始化	94.41%	233K	104K	24.2%
去掉历史反馈	93.78%	219K	92K	30.0%
评分组合加 Top-k 剪枝	93.13%	207K	107K	29.3%
完整 SafeSieve	95.01%	223K	98K	27.8%

完整方法相对全连接降低 0.49 个百分点，论文报告节省 27.8% token。表中 K 值经过取整，直接使用显示值复算时可能出现小幅舍入差异。

相对完整方法，去掉初始化降低 0.60 个百分点，去掉历史降低 1.23 个百分点，替换成 Top-k 降低 1.88 个百分点。它们支持组件有用，但各组 token 预算不同，不能将这些差值视为严格同预算下的独立因果贡献。

鲁棒性：混入低质量或恶意成员会怎样

图4，PDF 第6页。绿色、黄色、红色分别为 MMLU、SVAMP、HumanEval；每条竖线连接干扰前后结果。竖线越短，表示下降越少。该图对应作者注入低质量 Agent 的测试设定。

图4中，SafeSieve 的 MMLU 结果约为 92.4%→89.5%，AgentPrune 约为 91.0%→83.7%。该图支持 SafeSieve 在这组测试中受到的影响较小，仍然存在性能下降。

作者将这种现象解释为语义评估、运行反馈和结构剪枝的共同作用：可疑或持续无效的连接可能被降低评分，再被剪除。实验现象与这种解释相容，但尚不能据此认定对不同攻击类型、提示形式和部署条件都具有相同防御效果。

这里有一处需要保留的数值差异：

SafeSieve 的下降	图4及正文	表3
MMLU	2.89 个百分点	1.19 个百分点
SVAMP	0.56 个百分点	1.60 个百分点
HumanEval	1.84 个百分点	0.91 个百分点

表3报告平均下降 1.23 个百分点，摘要也引用了这一数值，但图4及相邻正文使用另一组数据。该版本正文没有清楚交代两组结果的设置差异，精确引用时应说明来自哪个表或图，不能混合计算。

异构协作：token 更少与费用更低怎样区分

异构实验让 DeepSeek-V3 承担评估、指挥和答案提取等职责，其他角色使用 GPT-4o-mini、Llama-8B、Qwen2.5-72B、Kimi-K2 等模型。这里既要看任务表现，也要看通信分配给不同模型后的实际费用。

图5，PDF 第7页。三个面板分别是 MMLU、SVAMP、HumanEval；每个面板比较全 DeepSeek、混合模型、全 GPT-4o-mini 三种配置。红色柱子为 SafeSieve。虽然图注同时提及成本，柱状图本身展示准确率，费用需要结合表4阅读。

SafeSieve 的同构与异构结果如下：

任务	全 DeepSeek-V3	混合模型
MMLU	92.39%	91.42%
SVAMP	96.60%	96.77%
HumanEval	95.01%	93.78%

混合团队在 SVAMP 上略高，在另两项上有所下降。这个结果说明任务类型会影响模型混搭的收益，不宜把一种组合的效果外推到所有协作任务。

表4将三个任务的 token 和费用合计，费用使用论文当时采用的模型价格：

方法	总 token	总费用，单位 ¢
AgentPrune	2,595K	114.59
AgentDropout	2,420K	101.53
SafeSieve	2,442K	99.31

SafeSieve 相比 AgentPrune 费用下降约 13.3%，相比 AgentDropout 约低 2.2%。它的总 token 略多于 AgentDropout，但费用更低，因为不同模型的输入、输出 token 单价不同。13.3% 的比较对象是同一张表中的异构 AgentPrune 配置，不能理解成“异构 SafeSieve 比全 DeepSeek 固定便宜 13.3%”。

局限与实现边界

历史贡献需要进一步做归因

成功任务中使用过一条边，并不自动证明这条边促成成功。公开实现累加成功任务的邻接矩阵，能提供一种运行统计；若要识别必要连接，仍需结合移除对照、使用频率或其他归因证据。

式（7）的权重方向与保留强协作的直觉有张力

论文的分组目标写为：

f^{*} = ar g f : V \to T min (i, j) \in E \sum \frac{1}{E _{ij} ( t ) + ε} 1 {f (i) \neq = f (j)} .

按该式直接推导，若忽略很小的 $ε$ ，分数为 0.9 的边跨组代价约为 1.11，分数为 0.1 的边跨组代价约为 10。最小化该项时，低分边的跨组代价反而更大。因而，不能直接从这个写法推出“高分边更倾向留在同组”，需要作者澄清权重含义或目标表达。这个判断针对上述 v3 PDF 的式（7），不把可能的修正当作原方法已经实现。

公开分组函数尚未求解所写的优化问题

核对版本的 zero_extension() 先把全部节点分给第一个中心，再按节点索引调整少数分配。它并未据全部边权求解式（7）。因此，当前公开实现不足以证明该优化问题的近似性质或连通性保证已经在实验路径中落实。

预算与拓扑都不是绝对保护条件

预算补删可能处理组内边及中心相关边；公开实现还可能因结构筛选而超过目标删除量。代码没有在这一筛选后补回连接的步骤，也不能仅凭“聚类”一词断言所有 Agent 始终互相可达。

需要将论文机制与发布实现分别核对

评分归一化、历史权重调度、阈值作用位置、节点检查在论文与代码间均有具体差异。MMLU 路径还保留可学习的连接 logits 和优化器相关逻辑，不能把“剪枝策略无需额外训练 GNN”扩展成“公开实现完全没有任何可学习通信参数”。这里没有独立执行整个训练或复现实验。

实验收益有明确比较范围

平均指标没有配套误差范围，消融的 token 预算不同，鲁棒性图表存在未澄清的数据差别，异构费用依赖特定模型配置及计价。能够直接支持的是论文所报告设定下的性能与通信取舍，以及这套语义、历史和结构信息组合值得继续验证；普遍最优、严格安全或任意任务均有效，都需要额外证据。

来源与相关阅读

SafeSieve，arXiv v3：本文的公式、图1–5及表1–4依据。
SafeSieve 固定代码提交：实现核对版本。
边评分与历史统计。
MMLU 脚本、掩码更新、分组辅助函数。
AgentPrune 原文、AgentDropout 原文、GPTSwarm 原文、G-Designer 原文。

原论文图的著作权归原作者或相应权利人；本页保留原图编号、PDF 页码与来源，用于论文解读。教学掩码图为根据明确列出的假设数据绘制。