这项由好意思团LongCat团队与北京大学软件工程国度工程权衡中心支持开展的权衡，以预印本表情于2026年5月4日发布，论文编号为arXiv:2605.02396v1，有酷好深化了解的读者可通过该编号查询好意思满论文。

一、当一个AI大脑不够用，为什么不让它"开小组商榷"？

你有莫得遭逢过这种情况：一说念难题我方想了半天没条理，但和几个一又友沿途商榷，环球各自从不同角度分析，最终得出了正确谜底。这种"世东说念主拾柴火焰高"的征象，在东说念主类解题中大地回春。好意思团LongCat团队的权衡者们就在想：能不可让AI也用不异的方式来科罚复杂问题？

这篇论文提议的中枢目标叫作念HEAVYSKILL，汉文不错交融为"重度想考技巧"。它的实质很浅近：与其让AI只想考一次就给出谜底，不如让AI同期启动多个独处的想维分支，各自解题，然后再由一个"记忆者"把整个想路汇总，判断哪个正确，最终给出谜底。就像一个班级里，憨厚把团结说念难题交给多个学习小组独处解答，然后召集整个小组禀报末端，终末由憨厚笼统各组的想路作念出最泰斗的判断。

这个想路听起来很直观，但权衡团队作念的事远不啻"想出这个点子"这样浅近。他们系统地权衡了这种方式到底有多灵验、在哪些情况下最管用、如何把它变成AI不错奏凯调用的"技巧"，还探索了能否通过强化学习进一步强化这种才能。接下来就一步步拆解这项权衡。

二、AI智能助手背后的"携带中心"是怎样责任的？

在交融HEAVYSKILL之前，有必要先了解一下当代AI助手的责任方式。当今主流的AI系统往往不是一个单独的大脑，而更像一个复杂的公司组织架构——有一个"总携带"（称为编排器或融合者），底下管着好多格外的"小分队"（子代理），各安定责不同任务，还配有"档案室"（牵挂组件）和"用具库"（技巧组件）。

这种架构被称为"智能体编排框架"，代表性的系统包括ClaudeCode、CodeX以及Hermes等。这些系统之是以概况处理复杂任务，是因为总携带不错生动调配各个小分队协同责任。有关词，权衡团队发现了一个关键问题：这些系统的优秀弘扬，到底是因为精妙的架构联想，照旧因为AI模子自身的推理才能在阐扬作用？

权衡团队通过仔细不雅察发现，非论架构何等复杂，这些系统的中枢责任模式其实都不错归纳为两个方法：先是让多个子代理"并行想考"（各自独处分析团结个问题），然后再由总携带"汇总归纳"（笼统整个分析得出最终谜底）。换句话说，花哨的系统架构其实仅仅这两个方法的不同包装方式。

这一发现让权衡团队产生了一个骁勇的目标：既然核神思制就是"并行想考加汇总"，何不把这个才能奏凯内化到AI模子自身，让模子无需复杂的外部架构就能我方实施这套进程？这恰是HEAVYSKILL的立论基础。

三、HEAVYSKILL的责任旨趣：一场有组织的头脑风暴

HEAVYSKILL的责任进程不错拆分为两个清澈的阶段，像努力赛一样前后贯串。

第一阶段叫作念"并行推理"。给定一说念题目，系统会同期启动K个独处的推理者（K时常设为8或16），每个推理者透澈不知说念其他推理者在想什么，各自从零运行解题。这种相互窒碍相配迫切——恰是因为每个推理者的想路透澈独处，才能产生信得过千般化的解题旅途。有东说念主可能用代数方法，有东说念主用几何方法，有东说念主倾向于暴力穷举，有东说念主则寻求简略的优雅解法。千般化的想路意味着更大的概率掩饰到正确谜底。

整个推理者完成解题后，他们的想考过程会被整理成一个"牵挂缓存"，也就是一份按要领成列的想路汇总文档。由于每个推理者的想考过程往往相配冗长，奏凯把全部内容放进去会超出AI的处理上限，是以系统会对每条想路进行符合剪辑，况兼打乱要领成列，防患AI对某个特定位置的谜底产生偏向。

第二阶段叫作念"要领审议"。另一个AI上演"记忆者"的变装，拿到这份汇总文档后，不是浅近地数哪个谜底出现次数最多就禁受哪个，而是进行信得过的批判性分析。记忆者会相比各个推理者想路的互异，找出逻辑随意，判断哪个推理链条最为严实，甚而在发现整个推理者都错了的情况下，独处从新推导出正确谜底。

此外，权衡团队还联想了一个可选的"迭代审议"机制。在第二阶段产生记忆末端后，这个记忆不错被从新放追思虑缓存，算作一个额外的"众人推理者"参与下一轮审议。如斯轮回，最多不错进行N轮迭代，让谜底在反复打磨中趋向正确。

四、把责任进程变成一张"证据书"：AI读懂就能实施

这套进程不仅不错通过外部代码来驱动，权衡团队还将其索取成了一份AI不错奏凯阅读和实施的"技巧文献"——HEAVYSKILL.md。

这份文献实质上是一份用当然语言写成的操作表率，就像给新职工入职时发的责任手册。文献的第一部分明确礼貌了什么情况下应该启用这套进程：迎濒临竞赛数学、复杂逻辑推理、算法编程等高难度问题时，应当激活；关于浅近的信息查询或日常聊天，则无谓启动，幸免糜掷打算资源。

文献的第二部分形色了如何生成并行推理：系统应该同期启动3到5个（在好意思满责任流模式下可达8个以上）相互独处的推理代理，每个代理必须从新运行解题，不得参考其他代理的责任。文献还饱读吹不同代理选定不同的解题计谋，以最大化千般性。

文献的第三部分包含了审议阶段的中枢领导：记忆者必须明确差异哪些推理链条是逻辑严实的，哪些存在颓势；多数东说念主的倡导是参考信号，但绝非正确的保证；少数派的正确推理值得负责对待；要是整个推理者都错了，记忆者有包袱独处从新推导谜底。

文献的第四部分礼貌了输出步地：最终给用户的仅仅谜底自身，不需要展示通盘分析元过程；数学题用模范的方框步地，编程题用代码块，以保握与用户盼愿的一致性。

这份文献最大的上风在于其可移植性。由于它仅仅一份纯文本文档，莫得任何特定系统的依赖，不错被插入任何支撑技巧加载和子代理调用的AI编排框架中，无需修改任何代码。权衡团队已考据，团结份HEAVYSKILL.md文献在ClaudeCode和自界说编排框架中均可平素运行。

五、信得过的磨真金不怕火：让AI去解竞赛数学题和编程难题

权衡团队为HEAVYSKILL安排了一系列严苛的磨真金不怕火，掩饰了理工科、编程和通用推理多个标的。

在理工科方面，测试题目来自AIME25（好意思国数学邀请赛2025年题目）、BeyondAIME（越过AIME难度的题目）、HMMT25-Feb（哈佛-麻省理工数学竞赛2025年2月场）以及GPQA-Diamond（权衡生级别物理、化学、生物笼统题目）。这些题目对东说念主类来说也非凡有挑战性，对AI更是如斯。

测试中参与的AI模子涵盖了闭源和开源两大阵营。闭源方面包括GPT-5Thinking、Claude4.5Thinking和Gemini3ProPreview；开源方面则包括DeepSeekR1系列、Qwen3系列、KimiK2Thinking、GLM4.6等十余个模子，涵盖了从7亿到超大领域参数的不同体量。

为了权衡遵守，权衡团队联想了五种评价研究，变成了一套好意思满的测量体系。Mean@K权衡的是K次并行推理的平均准确率，反应基础水平。Pass@K权衡的是K次推理中至少有一次正确的比例，代表模子的"才能天花板"。Vote@K则是传统多数投票法的准确率，非凡于现时常用的"最好K选N"计谋（Best-of-N）。在HEAVYSKILL框架下，还有两个新研究：Heavy-Mean@K（简称HM@K）是经过审议阶段后的平均准确率，Heavy-Pass@K（HP@K）是审议后末端中至少一次正确的比例。

本质默许将温度参数设为1.0，并行推理路数K设为8或16，审议阶段生成4份记忆内容。

六、数据话语：HEAVYSKILL到底有多强？

测试末端组成了一幅清澈的图景，全体律例非凡踏实。

在理工科任务上，HEAVYSKILL展现出全面且持重的上风。以DeepSeekR1-0528模子在HMMT25-Feb上的弘扬为例：在K=8的情况下，单次推理平均准确率（M@8）为80.8%，多数投票准确率（V@8）为86.7%，而HEAVYSKILL的平均准确率（HM@4）达到91.7%，进一步接近了"才能天花板"Pass@8的93.3%。访佛的擢升幅度在简直整个模子和整个理工科测试集上都能不雅察到。

权衡团队记忆出了一个聚合整个本质的律例：Heavy-Pass@K≥Heavy-Mean@K≥Vote@K≥Mean@K。这个条理联系证据，HEAVYSKILL不仅让平均弘扬优于传统投票方法，甚而在"后劲天花板"层面也越过了单纯并行推理的上限——这意味着审议阶段有时能合成出单个推理旅途根柢莫得出现过的正确谜底。

关于顶尖的前沿模子，投注平台app遵守更为显耀。GPT-5Thinking在BeyondAIME上，K=16时HM@4达到82.5%，HP@4达到88.0%，而相应的Mean@16只好70.1%。KimiK2Thinking在AIME25上，K=8时HM@4奏凯达到100%，与Pass@8的上限皆平。GLM4.6在HMMT25-Feb上，K=16时HM@4达到99.2%，不异靠拢100%的极限。

传统多数投票方法在某些高难度任务上的局限性也被了了地暴显现来。关于多数模子而言，在BeyondAIME、HMMT和GPQA-Diamond这类更具挑战性的测试集上，HEAVYSKILL相对投票方法的上风比在AIME25上更为昭着——恰是因为AIME25对强模子来说还是接近鼓胀，反而看不出多大诀别。

在通用推理任务上，情况略有不同，体现出昭着的任务依赖性。在LiveCodeBench（代码竞赛）和IFEval（指示罢职）这类有明确正确谜底的任务上，擢升依然显耀。GPT-OSS-20B在LiveCodeBench上的准确率从69.7%跃升到85.5%；R1-Distill-Qwen3-8B在IFEval上从35.7%擢升到69.3%，简直翻了一倍。有关词在Arena-Hard（东说念主类偏好对话）这类主不雅性任务上，擢升幅度就非凡有限，有时甚而略有下跌。这证据审议机制在"追求正确性"的任务上遵守杰出，但在"追求作风偏好"的任务上恐怕占优。

七、深挖：是哪些要害信得过决定了成败？

除了全体测试，权衡团队还作念了一系列拆解本质，试图弄了了HEAVYSKILL各个部分的具体孝敬。

第一个本质权衡了审议阶段能否修订并行推理阶段的失实。权衡者用R1-Distill-Qwen-7B模子，对1万说念题各自生成16条并行推理旅途，然后按并行通过率（即K条推理中正确的比例）把题目分组，分别不雅察审议后的通过率变化。末端自满，即使关于那些并行通过率低于50%的"繁重题目"，审议阶段依然概况修订非凡一部分失实——苟简有500说念蓝本多数推理者都答错的题目，经过审议后被见效修订。而关于并行通过率还是跨越50%的题目，审议阶段的见遵守跨越98%，小数出现反向阑珊。

第二个本质权衡了审议阶段用什么模子最合适。权衡者固定第一阶段使用R1-Distill-Qwen-7B，第二阶段分别换用三种不同的模子：不异是R1-Distill-Qwen-7B、更新的R1-Distill-Qwen3-8B，以及Qwen2.5-32B-Instruct。末端颇为出东说念主猜测：即就是Qwen2.5-32B-Instruct这个模子在独处解题时的弘扬比R1-Distill-Qwen-7B还要差（其在AIME25上的独处准确率只好12.8%），但当它被用作第二阶段的审议者时，依然能产生灵验的性能擢升。这证据审议阶段考验的不是"会不会我方解题"，而是"能不可笼统分析多条推理旅途"——这是一种不同类型的才能，更偏向于批判性阅读和笼统判断。

第三个本质权衡了迭代次数对遵守的影响。权衡者将迭代次数从1轮彭胀到4轮，每轮固定使用8条并行推理，不雅察HM@K和HP@K的变化趋势。末端自满，跟着迭代次数加多，HM@K（平均准确率）呈现踏实的上涨趋势，证据多轮迭代如实有助于进一步擢升全体弘扬。有关词HP@K（最高后劲研究）却随迭代次数加多而有所下跌，证据多轮迭代在擢升平均弘扬的同期，可能也引入了来自前几轮的信息插手，限定了模子在少数情况下阐扬出极限水平的可能性。这揭示了一个需要权衡的中枢矛盾：迭代的深度与信息一致性之间存在张力，并非越多越好。

第四个本质权衡了如何从多半并行推理中录取哪K条进行审议。权衡者对每说念题生成256条推理旅途，然后相比四种录取计谋。立时录取是基准；最大千般性计谋取舍互异最大的K条；最大长度计谋取舍最长的K条；最高频率计谋取舍包含最高频率谜底的K条（即多数投票优先）。末端发现，最大长度计谋弘扬最差，证据推理越长恐怕越对；最大千般性计谋与立时录取遵守左近，证据刻意追求千般性的边缘收益有限；最高频率计谋弘扬最好，证据先用多数投票筛选出确凿度较高的推理旅途，再交给审议阶段爽朗，是更理智的组所有谋。

第五个本质将HEAVYSKILL彭胀到需要调用外部用具的场景。权衡者让模子在解题过程中不错调用Python解释器获得运算末端，每次与解释器的交互最多50轮。测试末端自满，在AIME25和HMMT25上，HM@4依然全面跨越传统投票方法，证据HEAVYSKILL的核神思制在用具辅助场景下不异灵验。

八、用强化学习接续"雕琢"这项技巧

除了以上已有才能的测试，权衡团队还探索了一个更前沿的问题：能不可通过西宾让AI把这种"重度想考"的才能变得更强？

具体决议是，把并行推理加审议的好意思满过程打包成西宾数据，用可考据奖励强化学习（RLVR）来优化模子。西宾框架选定VeRL，强化学习算法选定GSPO。西宾对象是R1-Distill-Qwen-7B，西宾数据格外录取了那些"并行通过率在0到62.5%之间"的繁重题目，也就是模子不太擅长的那类题目，分别用K=8和K=16两种并行确立进行西宾。

从西宾过程的图表来看，在前100步内，模子在西宾集和测试集上的HM@4均呈现踏实的上涨趋势，最终擢升幅度约为10个百分点。有关词两种确立的弘扬出现了不合：K=16的确立在跨越100步后出现了昭着的熵坍塌征象，西宾变得不踏实；而K=8的确立在通盘西宾过程中保握了相对踏实的趋势。权衡团队判断，K=16时产生的序列化牵挂缓存过长，超出了R1-Distill-Qwen-7B模子的灵验处理范围，导致西宾信号质料下跌。

这些初步末端标明，RLVR如实能在一定进程上擢升HEAVYSKILL的遵守，但如安在更大的并行领域下督察西宾踏实性，还需要进一步的权衡来科罚。

说到底，这项权衡作念的事情是把一个听起来很复杂的"多智能体融合系统"收复成了它的实质：AI同期用多种想路解题，然后由一个批判性的记忆者筛选出最好谜底。这套机制被索取成了一个不错在职意AI编排框架中插拔使用的技巧文献，不依赖于任何特定的系统联想。通过掩饰十余个模子、多个难度层级测试集的系统本质，权衡团队阐述了这种方式在理工科推理和代码竞赛任务上的踏实灵验性，尤其是关于强模子，弘扬概况接近表面上限。关于豪迈用户而言，这意味着当年AI助手在处理复杂问题时，有望通过这类机制提供愈加可靠和准确的谜底，而不仅仅给出一个可能出错的一次性估量。关于AI权衡者而言，如安在不加多系统架构复杂度的前提下，进一步通过西宾把这种技巧刻入模子自身，仍然是一个值得深化探索的洞开问题。有酷好进一步了解工夫细节的读者，不错通过arXiv编号2605.02396查阅好意思满论文，对应的代码也已开源。

Q&A

Q1：HEAVYSKILL和豪迈多数投票（Best-of-N）有什么实质区别？

A：豪迈多数投票仅仅数哪个谜底出现次数最多就禁受哪个，实质上是一种统计方法，无法识别逻辑对错。HEAVYSKILL的审议阶段则会信得过分析每条推理旅途的逻辑严实性，概况识别"少数正确派"，甚而在整个推理者都犯错时独处推导出新谜底。本质数据自满，HEAVYSKILL在繁重题目上长久优于多数投票，差距在高难度测试集上尤为杰出。

Q2：HEAVYSKILL在什么类型的任务上遵守最好？

A：HEAVYSKILL在有明确正确谜底、不错被客不雅考据的任务上遵守最显耀，比如竞赛数学题、科学打算题、算法编程题和指示罢职任务。关于主不雅性强、以东说念主类偏好为评判模范的任务（如洞开式对话），擢升幅度则相对有限，有时甚而略有下跌。浅近来说，越"有模范谜底"的任务，HEAVYSKILL的上风越昭着。

Q3：审议阶段使用才能弱一丝的模子会不会影响遵守？

A：不一定会。权衡本质发现，即使用独处解题才能较弱的模子算作审议者，也能产生灵验的性能擢升。这是因为审议阶段需要的中枢才能是"笼统分析和批判性判断"，而不是"独处解题"。换句话说投注平台app，一个不擅长我方解数学题但善于评估别东说念主解题过程逻辑性的模子，不异不错胜任审议责任。