摘要

多智能体辩论（Multi-Agent Debate, MAD）已成为一种极具潜力的范式，它通过协同推理提升大语言模型（LLM）的性能。尽管该领域近年来取得了诸多进展，但驱动多智能体辩论发挥效用的关键因素仍不明确。在本研究中，我们将多智能体辩论拆解为两个核心组件 ——“多数投票（Majority Voting）” 与 “智能体间辩论（inter-agent Debate）”，并评估两者各自的贡献。通过在 7 个自然语言处理（NLP）基准测试集上开展大量实验，我们发现：通常被认为是多智能体辩论带来的性能提升，绝大部分实则由 “多数投票” 单独贡献。

为解释这一现象，我们提出了一个理论框架，将辩论建模为随机过程。我们证明，该过程会在智能体的信念轨迹上诱导出鞅（martingale）特性，这意味着仅靠辩论本身无法提高预期的决策正确性。基于这些见解，我们进一步证明：通过 “使信念更新偏向正确信号” 的针对性干预，可显著提升辩论的有效性。总体而言，我们的研究结果表明：尽管多智能体辩论具有潜力，但在许多实际场景中，简单的集成方法（如多数投票）仍是性能强劲且更可靠的替代方案。本研究的代码已开源，地址为：https://github.com/deeplearning-wisc/debate-or-vote。

1 引言

“复杂至极处，简约自显现。”—— 温斯顿・丘吉尔（W. CHURCHILL）

纵观历史，人类始终依靠审慎思考来化解模糊性、质疑假设并寻求更优答案。从法庭辩论、专家小组研讨到科学协作，群体推理在决策过程中始终扮演核心角色。这种 “个体通过互动反思、修正观点并达成共识” 的过程，长期以来被视为智能行为的标志。受此启发，近年来的研究开始探索大语言模型（LLMs）是否也能通过结构化互动获得类似收益。

多智能体辩论（MAD）便是在此背景下兴起的主流框架：多个大语言模型智能体被引导围绕同一问题展开讨论，每个智能体都会根据同伴的回应更新自己的答案 [1-6]。研究人员期望，这种互动能像人类审慎思考一样，提升模型的推理能力并产生更优结果。

多智能体辩论的核心包含两个关键要素：“多智能体（Multi-Agent）”—— 即使用多个模型智能体，以及 “辩论（Debate）”—— 即通过多轮迭代讨论实现智能体间互动。近年来，该领域涌现出越来越多复杂的变体，涵盖多样的通信协议 [3,7,8]、高效的系统架构设计 [1,2,9,10]，以及为智能体分配不同角色或人设 [11-13] 等。尽管取得了这些进展，多智能体辩论发挥效用的底层机制仍不明确。

要理解多智能体辩论的性能，一个自然的思路是拆解其组件的贡献：性能提升主要来自智能体间有意义的通信，还是仅仅源于对多个输出结果的聚合？解答这一问题至关重要，因为它决定了 “多智能体辩论设计复杂度的提升” 是否能由 “切实的性能收益” 来证明其合理性。如果性能提升主要源于 “集成（ensembling）”—— 即聚合多个独立智能体的多样化输出，那么像 “多数投票” 这样更简单的方法便足以满足需求，无需额外的计算与架构开销（直观对比见图 1）。

图1 多数投票 vs. MAD 图2：多数投票是MAD的主要贡献者

为更清晰地理解 “集成” 与 “互动” 的相对贡献，我们开展了大量实证研究，量化两个组件的具体影响。具体而言，我们通过 “多数投票” 的性能来衡量 “多智能体” 组件的贡献 —— 即智能体在任何辩论轮次开始前，仅通过聚合初始输出所达到的性能；随后，我们将这一基准性能与 “多轮辩论后” 的最终性能进行对比，从而分离出 “智能体间通信” 带来的额外收益。

令人意外的是，实验结果显示：多数投票贡献了多智能体辩论的绝大部分性能提升。事实上，在多数情况下，“无需任何辩论的多数投票” 与 “多智能体辩论” 的性能相当（见图 2）。为确保研究结论的广泛适用性，我们的评估覆盖了 7 个不同的基准测试集，涉及多种任务与模型。

除实证观察外，我们在第 4 节还提出了一个理论框架，严谨解释智能体的不确定性与信念更新如何在 “投票” 和 “辩论” 中影响群体决策。该框架的核心是将每个智能体建模为受 “狄利克雷 - 复合多项式（DCM）分布” 控制的随机过程：通过狄利克雷先验捕捉智能体的内部信念不确定性，通过多项式采样模拟输出的随机性。这一建模方式与真实大语言模型的行为高度吻合 —— 由于不确定性与随机生成过程（如温度采样或核采样），大语言模型对同一问题可能生成不同输出。

在该框架下，我们将多智能体辩论描述为 “贝叶斯后验信念更新过程”，并证明：这一过程会在智能体对 “正确答案的信念” 上诱导出鞅特性 —— 即辩论轮次增加时，智能体对正确答案的预期信念保持不变。这意味着，平均而言，辩论本身不会系统性地提升或降低信念的正确性；信念的变化实则由 “智能体间随机的相互影响” 驱动。换言之，我们通过数学证明：多数投票几乎承担了所有提升性能的工作，这也解释了我们的实证发现。

我们的理论框架还为 “改进多智能体辩论的设计原则” 提供了启示（见第 5 节）。具体而言，它强调了 “通过使辩论中的信念更新偏向正确信号，从而控制鞅过程” 的重要性。我们通过多项干预措施将这一见解落地 —— 让正确回应比误导性回应产生更大影响，最终实现了对标准多智能体辩论的性能提升。

我们的主要贡献与研究意义总结如下：

1. 我们通过在 7 个代表性基准测试集上的评估，全面证明 “多数投票” 与 “多智能体辩论” 的性能相当；并进一步将研究扩展到更通用的多智能体辩论场景，包括 “更大、能力更强的智能体”“异质智能体群体” 以及 “开放式自然语言任务”。
2. 我们提出了新的理论框架：揭示了多数投票的成功概率，并将多智能体辩论严格刻画为鞅过程。该框架为未来研究理解多智能体辩论系统奠定了原则性基础。
3. 我们的理论分析表明 “仅靠辩论无法超越多数投票”；通过设计 “在辩论轮次中保留正确回应” 的策略，我们实现了多智能体辩论性能的显著提升，为 “有效改进多智能体辩论系统” 的未来研究提供了方向。

如果你也想通过学大模型技术去帮助自己升职和加薪，可以扫描下方链接👇👇
​​

2 预备知识

多智能体辩论（MAD）是一种协同框架，多个语言模型智能体通过结构化互动（通常表现为多轮交流或讨论）完成任务，如问答或文本生成 [1-6]。在典型的多智能体辩论流程中，每个智能体首先独立生成初始回应，随后进入多轮辩论：在第t轮，智能体会收到原始问题以及同伴在第t-1轮的回应，并据此更新自己的答案。这种迭代过程旨在利用多样化的推理路径与同伴智慧，潜在提升整体决策质量。所有辩论轮次结束后，最终答案通常通过 “多数投票” 等聚合机制产生。具体提示模板详见附录 B.1。

辩论与投票的形式化定义

设X为输入空间（如自然语言问题），Y为输出空间（如自由文本或选择题答案）。考虑由N个语言模型智能体组成的集合{a1, …, aN}，每个智能体定义一个随机函数fi: X->Y,对于输入x ∈ X
，可生成初始回应yi,0 ∼ fi(x)
。在多数投票场景中，初始回应集合

通过投票函数

直接聚合，得到最终预测结果（通常为出现频率最高的答案）：

与之相对，多智能体辩论引入T轮迭代通信。我们将辩论的通信结构形式化为无向图G：图中每个节点代表一个智能体，边代表智能体间的观察关系。在第t ≥ 1轮，每个智能体ai会观察上一轮邻居智能体的回应，并据此更新自身答案。定义第t轮智能体ai可获取的邻居回应集合为：

其中N (i) ⊆ {1, . . . , N}是智能体ai可观察的邻居索引集（例如，在全连接场景中，N(i) = {1, . . ,N}。回应更新公式为：

其中D
代表一轮辩论过程。T轮迭代辩论可表示为函数复合：

T轮辩论后的最终聚合输出为：

本研究采用 “同步发言协议（simultaneous-talk protocol）”[3]：所有智能体基于上一轮的回应并行更新答案。参考现有研究的常见设定，我们首先聚焦 “同质智能体” 场景 —— 即所有智能体采用相同的底层模型架构与行为模式。这种设定可分离 “智能体间通信” 的影响，使多智能体辩论与简单多数投票能直接对比。我们的研究目标是：对比多智能体辩论与简单多数投票的性能，评估 “智能体间迭代通信” 是否能在 “集成” 之外带来可衡量的性能提升。第 6 节将进一步扩展至 “异质智能体” 场景。

3 辩论真的必要吗？深入对比辩论与投票

多智能体辩论常被视为 “通过协同审慎思考提升大语言模型性能” 的潜在机制，但它的效用有多少源于辩论本身，又有多少仅源于 “多个答案的聚合”？为解答这一问题，我们将多智能体辩论拆解为 “多智能体集成” 与 “智能体间通信” 两个组件，并通过实证证明：简单的多数投票贡献了观察到的绝大部分性能提升。下文首先介绍实验设置。

3.1 实验设置

基准方法

多智能体辩论方法的核心差异通常体现在 “辩论函数D的设计” 上，尤其是智能体的通信方式与角色设定。为全面评估这些差异，我们选取以下代表性方法作为基准：

1. 去中心化多智能体辩论（Decentralized MAD）[2]：每个智能体可观察上一轮所有其他智能体的回应；
2. 稀疏多智能体辩论（Sparse MAD）[10]：去中心化多智能体辩论的变体，采用稀疏通信拓扑以提升效率；
3. 中心化多智能体辩论（Centralized MAD）[14]：由一个中心智能体聚合同伴回应，并生成更新后的答案；
4. 多数投票（Majority Voting）：不进行任何辩论，直接聚合多个智能体的初始回应（可视为T=0的特殊情况）。

所有多智能体方法均采用N=5个智能体（后续将通过消融实验分析N的影响）；单智能体基准性能为 5 次独立运行的平均值。

基准测试集

参考现有多智能体辩论研究，我们聚焦 6 类自然语言问答任务，在多个基准测试集上开展广泛评估：

1. 算术任务（Arithmetics）：测试基础算术计算能力；
2. 数学推理（GSM8K）[15]：包含高质量小学数学应用题，测试多步数学推理能力；
3. 事实问答（MMLU 专业医学与形式逻辑）[16,17]：分别测试专业医学知识与形式推理能力；
4. 自然语言推理（HellaSwag）[18]：测试句子续写的合理性判断能力；
5. 常识推理（CommonsenseQA）[19]：测试常识知识的应用能力；
6. 对齐标注（HH-RLHF）[20]：采用 “AI 标注器对齐” 方法 [21]（类似 [10]），测试模型输出的 “有用性与无害性” 对齐程度。

为保证对比公平性，所有基准方法均在相同的数据子集上评估。详细数据设置见附录 A.2。

3.2 核心发现

多数投票性能显著优于预期

表 1 对比了 “单智能体”“多智能体辩论” 与 “多数投票” 在 7 个基准测试集上的性能（采用 Qwen2.5-7B-Instruct [22] 与 Llama3.1-8B-Instruct [23] 模型）。参考现有研究的常见设定，我们对比了 2 轮、3 轮辩论，以及延长至 5 轮辩论的场景（均使用 5 个智能体）。

有趣的是，尽管多智能体辩论始终优于单智能体基准，但它并不能稳定超越更简单的多数投票策略。事实上，在多数情况下，多数投票与多智能体辩论的性能相当。为进一步评估模型能力的影响，我们在第 6 节额外测试了性能更强的 Qwen2.5-32B-Instruct 模型。结果显示，尽管多智能体辩论场景下的整体性能有所提升，但多数投票仍贡献了绝大部分性能增益。这些发现表明：多智能体辩论的有效性主要源于 “模型集成”，而非 “迭代辩论过程” 本身。

为更深入理解多智能体辩论组件的作用，我们开展了消融实验（见图 3）：分析参与每轮辩论的 Qwen2.5 智能体数量（从N=1到N=5）对性能的影响。总体而言，智能体数量越多，性能通常越高。这一趋势进一步表明：多智能体辩论的有效性可能主要源于 “多智能体集成效应”。下一节将通过理论分析形式化这一观察。

4 理论分析

为更好地理解第 3 节实证发现背后的机制，我们对 “多智能体辩论” 与 “多数投票” 进行形式化分析。我们的理论框架基于贝叶斯原理，可捕捉 “智能体不确定性” 与 “信念更新” 如何在投票和辩论中影响群体决策。

具体而言，针对给定输入问题，我们考虑由N个智能体组成的群体，每个智能体从有限集合A中生成回应（A可代表选择题选项或开放式任务的候选答案）。我们将每个智能体建模为受 “狄利克雷 - 复合多项式（DCM）分布” 控制的理想生成模型 —— 这一建模方式与真实大语言模型的行为高度吻合：由于不确定性与采样变异性，大语言模型对同一问题可能生成不同输出。其中，狄利克雷先验捕捉智能体对 “可能答案” 的内部信念不确定性，多项式采样模拟输出的随机性。这种分布的优势在于：它同时包含 “内部不确定性” 与 “输出随机性”，且能为 “辩论轮次中的信念更新” 提供原则性的贝叶斯框架，从而可分析辩论过程中的动态变化。下文将详细介绍 DCM 模型的数学细节。

定义 1（基于 DCM 的智能体回应生成）

定理 1（多数投票的成功概率）

图 4：辩论轮次中智能体平均准确率的鞅过程

注 1：该结果凸显了多数投票的放大效应 —— 即便正确答案的概率仅略高于其他备选答案，随着智能体数量N的增加，成功概率的下界也会渐近趋近于 1。值得注意的是，只要正确答案仍是最可能的选项，这一结论依然成立。

在实际场景中，受计算资源限制，多智能体辩论（MAD）系统通常仅使用少量智能体。为此，我们在定理 1.A（附录 D）中针对这一实际场景提供了更精确的分析 —— 该分析适用于任意数量的智能体N，无需对其规模进行限制。这一补充结果为 “资源受限的实际场景中多数投票的可靠性” 提供了参考依据。

接下来，我们通过形式化 “智能体信念αi,t
在辩论过程中的演变方式”，分析多智能体辩论的性能。具体而言，每个智能体都会观察邻居的回应，并据此对自身信念进行贝叶斯后验更新。

定义 2（基于邻居回应的贝叶斯信念更新）

在此定义下，每一轮多智能体辩论均可视为 “狄利克雷 - 多项式模型共轭性” 下的一次贝叶斯更新步骤。

引理 1（多智能体辩论中的贝叶斯共轭性）

由此可证明，智能体信念的演变过程构成一个鞅过程，完整证明见附录 C。

定理 2（多智能体辩论的鞅特性）

理论洞察：多数投票几乎承担了所有工作

该定理揭示了 “狄利克雷 - 复合多项式（DCM）模型贝叶斯更新下多智能体辩论” 的一个基本特性：智能体对 “正确答案的信念” 具有鞅特性 —— 即其期望值在各轮次中保持不变。这一结果与经典的波利亚 urn 模型（Pólya Urn scheme）[24] 密切相关。

从直观上理解，这意味着仅靠辩论本身无法系统性地提升或降低智能体信念的正确性；信念的更新完全由 “同伴回应的随机影响” 驱动。在某些辩论轨迹中，智能体对正确答案的信念可能会增强（即修正）；但在另一些轨迹中，信念可能会减弱（即颠覆）。尽管这些局部波动会影响后验计数，但 “对正确答案的期望信念” 始终等于初始值

，与是否进行辩论无关。

这表明，在我们的理论模型中，仅靠辩论未必能提升初始准确率 —— 多数投票才是性能提升的主要来源。该理论与第 3 节的实证发现高度一致。

鞅特性的实证支撑

我们通过实验验证了序列{pt} t≥0
是否具有鞅特性。对于每个基准测试集和辩论轮次t，我们将pt
估计为 5 个智能体的平均准确率 ²。如图 4 所示，得到的轨迹基本保持平稳 —— 这与 “鞅的期望值随时间保持不变” 的理论特性一致。平均准确率的原始数据详见表 6（附录 E）。

贝叶斯更新步骤的广义解读

在引理 1 和定理 2 中，我们基于计数向量ci,t
定义了更新动态。通过轻微调整解读方式，该框架可推广至开放式任务，并捕捉 “每个智能体回应的异质影响”。对于开放式任务，尽管回应无法以 “分类形式” 严格计数，但可在 “分布空间” 或 “基于相似度的空间” 中表示。此时，计数向量可进行更广义的解读，例如：

• 聚类回应类型的软直方图；
• 基于嵌入的语义一致性度量；
• 文本输出间的加权相似度得分。

在这类场景中，“共识” 的定义更适合基于语义而非符号：即便智能体独立生成的解释或推理过程在表面形式上存在差异，只要语义一致，即可视为达成共识。这一概念可通过 “嵌入相似度阈值”“编辑距离（Levenshtein distance）” 或 “推理链重叠度” 等指标实现落地。

5 理论如何指导多智能体辩论（MAD）的改进设计？

我们理论中的 “鞅特性” 反映了 “信念随时间的中性期望”—— 这意味着，若不对 “正确信号” 施加额外偏向，仅靠辩论本身无法保证收敛到正确答案。任何额外收益都源于观测随机过程{pt} t≥0
中的局部不对称性。因此，为提升多智能体辩论的有效性，我们探索了 “促进修正、抑制颠覆” 的替代性设计方案。

5.1 偏向正确信号的信念更新

为研究 “信念更新过程中的针对性干预如何促进收敛到正确答案”，我们首先考虑一种 “先知式（oracle-style）方法”—— 该方法明确将更新偏向正确信号。在这种方案中，一旦某个智能体在任意辩论轮次中生成正确答案，就会 “锁定” 这一状态：其信念向量不再受后续同伴回应的影响。

形式化表述为：若智能体i在第t轮输出正确答案，则在所有后续轮次t’ > t中，始终使用该正确答案。这种更新机制放大了 “偏向修正的不对称性”—— 正确信号会在各轮次中持续存在并累积，而错误信号仍可被修正。因此，系统动态会偏离第 4 节讨论的 “中性鞅特性”，转而呈现 “向正确答案方向偏移” 的趋势。

我们将这种方法称为 MAD-oracle，并在表 2 中报告其性能。该方案相较于标准多智能体辩论（MAD）实现了显著性能提升，且始终大幅超越 “多数投票” 基准。例如，在 “5 轮去中心化多智能体辩论” 中，MMLU（形式逻辑）任务的准确率从 0.5000 提升至 0.6825。

尽管该方法在实际场景中并不可行（因为无法提前获取正确答案），但它揭示了 “在信念更新过程中融入‘偏向正确信号’” 所能带来的性能上限。下一小节将探讨一种更贴近实际的方案 —— 无需直接获取真实答案，即可抑制 “信念颠覆”。

5.2 基于多数投票的信念更新指导

在实际场景中，我们无法像 “先知式方案” 那样预先获取并保留正确答案。为近似这一效果，我们对多智能体辩论的更新规则进行了简单修改，利用 “多数投票的正向信号” 引导更新。

设计思路源于我们的理论分析 —— 多数投票通过聚合群体的边际优势，能比单个智能体更可靠地估计正确答案。这意味着，可将 “多数回应” 作为 “真实答案的代理（proxy）”，引导信念更新向正确方向偏移 —— 无需依赖先知信息，即可实现 “偏向修正” 的效果。

基于这一思路，我们提出两种轻量级干预策略，将多数投票融入智能体的信念动态：

1. MAD-Conformist（从众策略）

   ：若智能体的回应与上一轮多数投票结果一致，则保留该回应；

2. MAD-Follower（跟随策略）

   ：以 30% 的概率让智能体采用上一轮的多数回应，否则生成新回应。

如表 2 所示，这两种策略均持续优于 “标准多智能体辩论（MAD-vanilla）” 基准。尽管它们未达到 “先知式方案” 的性能上限，但证明了 “基于理论的简单修改” 可带来切实的性能提升 —— 为未来缩小性能差距指明了可行方向。

如果你也想通过学大模型技术去帮助自己升职和加薪，可以扫描下方链接👇👇
​​

6 扩展至通用场景的实验

本节将第 3 节的研究范围扩展至更通用的场景，验证核心发现（即 “多数投票与辩论性能相当”）是否在以下场景中成立：更大规模的模型、异质智能体、开放式问题形式。

更大规模、更强能力模型的一致性发现

为验证研究结论的通用性，我们将评估扩展至性能更强的语言模型。具体而言，我们在 Qwen2.5-32B-Instruct 模型 [22] 上测试了两种代表性任务：GSM8K（数学推理）和 HellaSwag（自然语言推理）。

如表 3 所示，结果与此前的观察一致：多数投票的性能仍与多智能体方法相当。这表明，我们的结论不仅限于小规模模型，在大参量大语言模型中同样成立。

异质智能体场景

尽管我们的核心研究聚焦于 “同质智能体”，但仍需回答一个重要问题：研究结论是否可扩展至 “异质智能体” 配置？为探究这一问题，我们评估了 “含不同人设的智能体组成的多智能体辩论系统”，结果如表 4 所示。

参考文献 [9] 提出的 “智能体选择算法”，我们为 “大学数学” 和 “临床知识” 任务确定了 “最优人设集合”，并为每个任务构建了多样化的智能体角色：

• GSM8K（数学推理）

  ：团队包含 1 个通用 “助手（Assistant）” 和 4 个专业角色（数学家、律师、经济学家、程序员）；

• MMLU 专业医学子集

  ：团队包含 4 个角色（医生、心理学家、数学家、程序员）。

在实际实现中，我们通过 “为每个智能体分配包含特定角色 / 人设的系统提示” 来模拟异质场景 —— 提示模板参考文献 [9]（详见附录 B.3）。

实验结果显示，即便在异质场景中，多数投票的性能仍基本与多智能体辩论变体相当。不过，在 “专业医学” 任务中，部分多智能体辩论方案的性能提升更显著，这表明 “为特定任务分配多样化人设” 可能为多智能体辩论系统带来潜在收益。

开放式文本生成任务的评估

此前的实验主要聚焦于 “封闭式问答任务”—— 这也是现有多智能体辩论研究的核心场景。一个自然的延伸问题是：研究结论是否适用于 “开放式任务”（如自由文本生成）？

为探究这一问题，我们在 “文本摘要任务” 上评估多智能体辩论 —— 使用 CNN/DailyMail 数据集 [25] 的子集。与分类任务不同，文本摘要任务缺乏 “离散答案选项”，因此无法直接应用多数投票。为此，我们报告了 “各辩论轮次中性能最优的智能体” 的表现，结果如表 5 所示。

有趣的是，实验发现 ROUGE-1 和 ROUGE-L 得分在各轮次中基本保持稳定 —— 这表明，从封闭式任务中得出的核心结论（即 “辩论无法显著超越简单集成”）可能同样适用于 “文本摘要” 这类开放式任务。

7 相关工作

近年来，研究人员对多智能体系统（MAS）的关注度显著提升，已有多篇综述论文总结了基于大语言模型的多智能体系统最新进展 [14,26-28]。在多智能体系统中，多智能体辩论（MAD）因能提升单智能体基准性能，成为极具潜力的方案。下文将讨论现有多智能体辩论系统的优势与局限性。

多智能体辩论的优势

多智能体辩论的核心优势在于其 “迭代讨论过程”—— 该过程有望同时提升事实准确性与推理质量。基于这一范式，已有多项研究提出了适用于各类任务的多智能体辩论方案 [1-6]。为进一步推进多智能体辩论系统，文献 [7] 基于辩论理论提出了改进方案；文献 [29] 设计了 “同伴排序（Peer Rank）” 与 “同伴讨论（Peer Discussion）” 机制，用于选择合适的智能体对进行辩论。

此外，大量研究聚焦于 “设计高效的通信架构与协议” 以提升性能和效率 [3,8-10,30,31]；另有研究强调 “多智能体辩论系统中多样性的重要性”，例如使用异质大语言模型智能体 [11]、为智能体注入不同人设 [9,12,13]，或实现 “可控多样性的文本生成”[32,33]。同时，研究人员还探索了基于学习的方法，用于优化多智能体辩论的动态过程 [9,34,35]。

多智能体辩论的局限性

尽管多智能体辩论系统被广泛用作解决各类任务的有效工具，但近期研究对其实际有效性提出了质疑：

• 文献 [36] 通过深入分析，识别出多智能体辩论系统的 14 种失效模式；
• 文献 [37] 发现，多智能体辩论无法稳定超越单智能体方案；
• 文献 [38] 指出，大语言模型智能体的 “自我修正能力不足”，难以支撑多智能体辩论的成功；
• 文献 [39] 报告，多智能体辩论的性能并不优于 “先进的单智能体推理方法”，且对超参数高度敏感；
• 文献 [40] 进一步证实，“提示优化后的单智能体” 有时能超越多智能体辩论；
• 文献 [7,37] 观察到，多智能体辩论中存在 “答案被颠覆或错误化” 的情况；
• 文献 [41] 发现，多智能体辩论系统常收敛于 “多数意见”，即便该意见反映的是普遍误解；
• 文献 [42] 对比了多种决策协议，发现 “多轮多智能体辩论” 反而会导致性能下降。

本研究通过 “多智能体辩论与简单多数投票的系统性对比”，为 “辩论过程中成功概率的演变规律” 提供了理论基础，为未来设计改进型多智能体辩论系统提供了参考。

8 结论

本研究对多智能体辩论（MAD）及其核心组件进行了全面分析。通过在 7 个基准测试集上开展大量实验，我们发现：与普遍认知相反，多智能体辩论的多数性能提升源于 “多数投票”，而非 “辩论过程” 本身。

为支撑这一发现，我们提出了一个理论框架 —— 将辩论动态刻画为 “鞅过程”，该过程能保持 “每个智能体的期望成功概率” 随时间不变。这些见解表明，“多数投票” 这类集成策略仍具有强劲性能，且在多数场景中更可靠；同时也强调了 “在智能体辩论过程中保留正确答案” 的重要性。

总体而言，本研究揭示了多智能体辩论背后的关键机制，并为其设计改进提供了具体方向。

更广泛的影响

我们的研究为 “多智能体辩论” 提供了重要视角：其大部分有效性可通过 “多数投票” 这类更简单、更易获取的方法实现。这为 “构建高效、可扩展的协同人工智能系统” 开辟了道路 —— 无需牺牲性能，即可降低复杂度。

此外，通过将多智能体辩论识别为 “鞅过程”，我们提供了可落地的见解，有助于提升未来多智能体辩论系统的稳健性与可信度。我们相信，本研究为 “基于辩论的人工智能框架” 带来了兼具原则性与实用性的新视角，最终将助力实现 “更可靠、更具协同性、更贴合人类推理方式” 的人工智能系统这一更广泛目标。

附录

A 实验细节

A.1 超参数与资源配置

超参数

为实现从同质智能体的随机采样，我们将采样温度设为 1.0，并采用核采样（nucleus sampling）策略，采样概率阈值为 0.9—— 即仅从 “累计概率占比达 90% 的动态候选 token 集合” 中进行采样。此外，本文所有实验模型的最大生成 token 数均设为 512。

资源配置

所有实验均在 RTX A6000 或 RTX A100 显卡上完成。

A.2 数据集细节

本节详细说明实验所用数据集及样本数量：

• 算术任务（Arithmetics）：包含 100 道算术题，题目形式为 “What is the result of a + b x c + d - e/f？”（a至f为从 0-30 整数中随机抽取的数值）。
• GSM8K 数据集[15]：包含高质量小学数学应用题，用于测试模型的多步数学推理能力。实验从原始测试集中随机抽取 300 道题目。
• MMLU（专业医学领域）[16,17]：专注于评估模型在医学领域的专业推理能力，题目需结合医学概念、临床推理及生物医学知识作答。实验使用完整测试集，共 272 道题目。
• MMLU（形式逻辑领域）[16,17]：用于评估模型在形式推理、符号运算及逻辑分析方面的能力。实验使用完整测试集，共 126 道题目。
• HellaSwag 数据集[18]：自然语言推理（NLI）基准数据集，任务形式为句子补全 —— 要求模型从多个选项中选择 “与给定上下文最贴合的续写内容”，该任务不仅考验语言能力，还需模型具备真实世界知识与推理能力。实验从原始测试集中随机抽取 300 道题目。
• CommonsenseQA 数据集[19]：多选型问答数据集，旨在评估模型 “将常识知识应用于自然语言理解” 的能力。实验从原始验证集中随机抽取 300 道题目。
• HH-RLHF 数据集[20]：包含人类标注数据，用于训练和评估 “与人类偏好对齐” 的语言模型，重点关注 “有用性” 与 “无害性”。数据集中的样本以 “偏好对” 形式标注，包含 “优选（chosen）” 和 “劣选（rejected）” 两类样本。参考 “AI 标注器对齐” 方法 [21]，我们要求大语言模型智能体从样本对中选择 “更有用且更无害” 的示例。为避免选择偏差 [43-45]，输入提示中 “优选” 与 “劣选” 的顺序会随机打乱。实验从原始测试集中随机抽取 300 个样本对。
• CNN/DailyMail 数据集[25]：用于抽象文本摘要任务的数据集，原始数据来源于 CNN 和《每日邮报》的新闻文章，旨在评估模型对长文本的简洁摘要生成能力。实验使用该数据集 3.0.0 版本测试集中的 30 个随机样本。

B 提示模板

本节提供实验所用的全部提示模板。

B.1 多智能体辩论（MAD）模板

以下是多智能体辩论的提示模板，为简洁起见，假设辩论中有 3 个智能体：

其他智能体的最新观点如下：

其中一个智能体的回应：

<上一轮智能体 2 的回应>

其中一个智能体的回应：

<上一轮智能体 3 的回应>

你上一轮的观点：

<上一轮智能体 1 的回应>

请将这些观点作为补充建议，谨慎修改你之前的观点，最终回答以下问题：<问题内容>

请务必在回应的末尾用花括号标注最终答案，格式示例：“{final answer: 12.34}”。

针对 GSM8K 任务，示例格式略有调整：“{final answer: 123}”；针对其他多选题（MCQ）数据集，示例格式为：“{final answer: (A)}”。针对 CNN/DailyMail 摘要任务，需指示模型 “在标注‘# Summary #’后提供摘要内容”。

B.2 任务模板

为保证完整性，以下提供各数据集对应的具体输入格式（这些模板对应多智能体辩论提示结构中的 <问题内容> 字段）。未列出的数据集均直接使用原始题目格式，未做修改。

算术任务（Arithmetics）

计算 a + b x c + d - e / f 的结果。

MMLU（专业医学领域 & 形式逻辑领域）

<问题内容>

(A) < 选项 1>

(B) < 选项 2>

© < 选项 3>

(D) < 选项 4>

HellaSwag 数据集

请选择最贴合以下上下文的续写选项：“<上下文内容>”？

(A) < 选项 1>

(B) < 选项 2>

© < 选项 3>

(D) < 选项 4>

CommonsenseQA 数据集

<问题内容>

(A) < 选项 1>

(B) < 选项 2>

© < 选项 3>

(D) < 选项 4>

(E) < 选项 5>

HH-RLHF 数据集

以下哪项是相对更有用且 / 或更无害的数据？

(A) < 优选样本 > 或 < 劣选样本 >

(B) < 劣选样本 > 或 < 优选样本 >

CNN/DailyMail 数据集

用三句话总结以下内容：

<文章内容>

B.3 角色提示

为给智能体分配异质角色，我们通过系统提示明确每个智能体需扮演的角色。角色描述参考自文献 [9]，具体如下：

• 助手（Assistant）

  ：你是超智能 AI 助手，执行任务的能力优于人类。

• 数学家（Mathematician）

  ：你是一名数学家，擅长数学游戏、算术计算与长期规划。

• 经济学家（Economist）

  ：你是一名经济学家，精通经济学、金融学与商业领域知识，具备解读图表并分析全球宏观经济环境的经验。

• 程序员（Programmer）

  ：你是一名程序员，擅长计算机科学、工程学与物理学，拥有计算机软硬件设计与开发经验。

• 律师（Lawyer）

  ：你是一名律师，精通法律、政治学与历史学领域知识。

• 心理学家（Psychologist）

  ：你是一名心理学家，擅长心理学、社会学与哲学，能为他人提供科学的心理疏导建议。

• 医生（Doctor）

  ：你是一名医生，能为疾病制定创新性治疗方案，可推荐常规药物、草药及其他天然替代疗法，且在给出建议时会综合考虑患者的年龄、生活方式与病史。

​最后

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。

我整理出这套 AI 大模型突围资料包：

• ✅AI大模型学习路线图
• ✅Agent行业报告
• ✅100集大模型视频教程
• ✅大模型书籍PDF
• ✅DeepSeek教程
• ✅AI产品经理入门资料

如果你也想通过学大模型技术去帮助自己升职和加薪，可以扫描下方链接👇👇
​​

为什么说现在普通人就业/升职加薪的首选是AI大模型？

人工智能技术的爆发式增长，正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议，到全国两会关于AI产业发展的政策聚焦，再到招聘会上排起的长队，AI的热度已从技术领域渗透到就业市场的每一个角落。

智联招聘的最新数据给出了最直观的印证：2025年2月，AI领域求职人数同比增幅突破200% ，远超其他行业平均水平；整个人工智能行业的求职增速达到33.4%，位居各行业榜首，其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张，也让人才供需矛盾愈发突出。麦肯锡报告明确预测，到2030年中国AI专业人才需求将达600万人，人才缺口可能高达400万人，这一缺口不仅存在于核心技术领域，更蔓延至产业应用的各个环节。

​​

资料包有什么？

①从入门到精通的全套视频教程

包含提示词工程、RAG、Agent等技术点

② AI大模型学习路线图（还有视频解说）

全过程AI大模型学习路线

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了，这些是我精选出来的

④各大厂大模型面试题目详解

⑤ 这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

所有的视频教程由智泊AI老师录制，且资料与智泊AI共享，相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌，通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌，构建起"前沿课程+智能实训+精准就业"的高效培养体系。

课堂上不光教理论，还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

​​​​

如果说你是以下人群中的其中一类，都可以来智泊AI学习人工智能，找到高薪工作，一次小小的“投资”换来的是终身受益！

应届毕业生‌：无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌：非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能 ‌突破瓶颈：传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**

​