推理大模子开卷新地方赌钱赚钱app，阿里开源长文本深度想考模子 QwenLong-L1，登上 HuggingFace 当天热点论文第二。

其 32B 参数版块跳跃 OpenAI-o3-mini、Qwen3-235B-A22B 等，得到与 Claude-3.7-Sonnet-Thingking 十分的性能。

除测评分数外，论文中还详备展示了一个金融文档推理的案例。传统模子容易被无关细节误导，而 QwenLong-L1 通过回溯和考据机制过滤侵犯信息，正确整合关键数据。

任务条目：左证文档回复问题"将优先单子的刊行成本与第一年的利息支拨合并计较，总成本成本是若干？"

起初出场的基础模子 DeepSeek-R1-Distill-Qwen-14B 被文档中"自 2011 年 10 月 15 日起每半年支付一次利息"误导，左证不相干的本领和财务信息，作假计较了第一年的利息支付。

接下来，经过稀薄 SFT 的版块仍然未能处分这个问题。

它在对不相干文档进行过度分析的轮回中自我怀疑，最终尽了最大生成限度（10000 tokens），却莫得给出最终谜底。

比较之下，固然 QwenLong-L1-14B 率先也进展出肖似的分神，但它很快进行了灵验的自我反想。通过实时考据和回溯，收效过滤掉了不相干的细节，得出了正确谜底。

那么，QwenLong-L1 是若何作念到的？

起初，现存推理模子在濒临长文本（如几万字以致更长）时遭受什么问题？

Qwen 团队通过对比践诺发现，长文本推理的强化学习查验存在两个"硬伤"：

一是查验效力低，传统强化学习（RL）步调在长文本中容易堕入局部最优，奖励不休慢，限度了政策优化时的探索行径。

二是优化经由不踏实，长文本任务的输出长度更高、输入长度分别不均匀，导致政策更新时的方差被放大，查验经由中参数更新不踏实（如 KL 散度坐过山车）。

为此团队提议 QwenLong-L1 查验框架，中枢是通过渐进式高下文膨大让模子神圣相宜长文本推理。查验经由分为两阶段：

预热监督微调（Warm-Up Supervised Fine-Tuning）

在启动强化学习之前，先用高质地的演示数据进行监督微调，让模子先具备基本的长文本合并能力、推理链生成能力和谜底索要能力。

团队从 DeepSeek-R1 蒸馏了 5.3K 个高质地的问题 - 文档 - 谜底三元组，确保模子有个踏实的起头。践诺驱散透露，这个"热身"阶段对后续的强化学习查验至关蹙迫。

课程讨好的分阶段强化学习（Curriculum-Guided Phased Reinforcement Learning）。

从随笔本神圣过渡到长文本。举例，先查验模子处理 2 万 token 的文本，踏实后再加多到 6 万 token，临了到 128K。每个阶段只护理对应长度的文本。

此外还引入了难度感知的回溯采样机制。在干与下一阶段时，会保留前一阶段中最难的样本（平均准确率为零的那些），确保模子不会"健忘"若何处理清苦案例。

长文本问答的谜底频频比较怒放，单纯的轨则匹配太拘束，可能漏掉正确谜底。

QwenLong-L1 在强化学习查验中剿袭搀杂奖励函数，连合了基于轨则的考据和 LLM-as-a-Judge。

轨则考据也等于径直稽查谜底是否与圭臬谜底澈底一致（如数学题计较驱散是否正确），再用另一个模子判断谜底的语义是否正确（搪塞谜底表述不同但道理一致的情况），两者连合幸免单一轨则过于严格或宽松

在 DocMath、Frames、2WikimQA 等七个长文本基准测试中，QwenLong-L1-14B 比较基础模子 R1-Distill-Qwen-14B，平均擢升了 4.1 分，特出了 Gemini-2.0-Flash-Thinking 和 Qwen3-32B。

QwenLong-L1 的 32B 版块比较基础模子擢升了 5.1 分，达到 70.7 的平中分。这个收货不仅跳跃了 OpenAI-o3-mini（70.4 分）、Qwen3-235B-A22B（70.6 分），以致和 Claude-3.7-Sonnet-Thinking（70.7 分）打成平手。

团队还针对 Test-time Scaling 性能作念了评估。当生成 16 个候选谜底时，QwenLong-L1-14B 的进展跳跃了 DeepSeek-R1 和 OpenAI-o1-preview。

临了论文中还深切磋议了两个问题：

既然 SFT 相对浅陋低廉，为什么还要汉典搞强化学习（RL）？

践诺驱散很有启发性。长文本 SFT 如实能带来 2.6 分的擢升，比随笔本 SFT 的后果更好。然则，淌若在长文本 SFT 的基础上再作念 RL，擢升幅度惟一 0.3 分；而在随笔本 SFT 基础上作念 RL，却能擢升 3.2 分。

对此团队提议一个不雅点：SFT 提供了一种经济的性能擢升方式，而 RL 则是达到最优性能必不能少的。

通过追踪分析了四种关键推理行径发现 3 个论断：信息定位（grounding）、子见地设定（subgoal setting）、回溯（backtracking）和考据（verification）。

统统模子都展现出彰着的推理行径，尤其是信息定位行径出现频率最高，这讲明注解了它在处理高下文依赖推理时的蹙迫性；

强化学习查验经由中，这些行径会渐渐增强，并与性能擢升高度相干，标明强化学习能灵验移动输出空间，优先保留有助于得出准确解答的推理模式

固然 SFT 模子也能学会这些行径，但这些名义上的行径师法并莫得带来骨子性能擢升，这揭示了 SFT 更护理名义模式匹配，而非骨子推理能力的培养。

论文地址：

https://arxiv.org/pdf/2505.17667

—  完  —

� �  量子位 AI 主题筹办正在征采集！接待参与专题365 行 AI 落地决策，一千零一个 AI 诳骗，或与咱们共享你在寻找的 AI 居品，或发现的AI 新动向。

� � 也接待你加入量子位逐日 AI 换取群，一王人来畅聊 AI 吧～

一键护理 � � 点亮星标

科技前沿进展逐日见

一键三连「点赞」「转发」「留神心」

接待在指摘区留住你的想法！赌钱赚钱app