跳到正文
原文
arXiv · Neural and Evolutionary Computing· William L. Tong, Ege Cakar, Cengiz Pehlevan
· 11 天前精选AI 评分60

圆面包还是法棍?任务拓扑、长度泛化与推理痕迹的收益研究

Boule or Baguette? A Study on Task Topology, Length Generalization, and the Benefit of Reasoning Traces

预印本 · 尚未经过同行评审

AI 导读

推理模型在输出最终答案前会生成中间推理痕迹,但这种范式在何处失效仍不清楚。作者构建 PITA 数据集,包含超过 2300 万条命题逻辑语句及其证明,并用任务深度(所需证明步数)和任务广度(任务族内不同命题数)刻画任务拓扑,考察模型在更长证明上的长度泛化。结果显示推理痕迹模型在较广较浅的子集上泛化良好,在较窄较深的子集上不如无推理痕迹的基线;作者另用一个可解析的传递推理任务作对照,并提出理论解释广度与深度带来的不同影响。

推荐理由

发布含 2300 万条命题逻辑语句及证明的大规模数据集,用任务深度与广度刻画推理痕迹模型在长度泛化上的优劣。

摘要 · AI 翻译

近年来,推理模型取得了飞速进展:这类神经网络在产生最终输出之前会生成中间推理轨迹(reasoning traces,RTs)。尽管发展迅速,我们对 RTs 如何支持推理、以及这一范式在何处失效的理解仍不完整。为促进更清晰的认识,我们提出 PITA:一个全新的大规模数据集,包含超过 2300 万条命题逻辑陈述及其对应的证明。作为稳健推理的基准,我们关注长度泛化:如果模型在证明长度不超过固定值的陈述上训练以判断真伪,那么它对需要更长证明的陈述泛化得如何?我们提出(1)任务深度和(2)任务广度的概念,分别度量(1)求解一个命题所需的证明步数,以及(2)一个任务族中唯一命题的数量。我们在 PITA 的不同子集上改变这些量,发现 RT 模型在相对广而浅的子集上泛化良好,而在相对窄而深的子集上相比非 RT 基线出现退化。作为受控的对照比较,我们研究了一个独立的、可处理的传递性推理任务,其表现出定性相似的行为。我们配套的理论解释了在这一更简单设定中观察到的缩放现象,提示了一种机制:广度可以有利于 RT 模型,而深度则会暴露长上下文的弱点。我们的发现表明,在受控的长度泛化设定中,类证明推理轨迹具有显著优势与局限。

中文由 AI 翻译,仅供参考,以原文为准。

来源:arXiv · Neural and Evolutionary Computing · arxiv.org

PsyBrain 脑心前沿

让每一位脑科学探索者,都不再独行。