模式识别与逐步推理的二分性研究
Get the story
2026年10月8日,arXiv 机器学习理论方向发布一篇一手论文,提出模式识别与逐步推理并非对立,而是同一谱系的两端:当下一 token 只依赖少量前文时,大语言模型学会逐步推理;当依赖大量前文时,推理退化为模式识别。作者将推理轨迹建模为 De Bruijn 图上的路径,证明所需边数远少于轨迹数,且训练样本量呈幂律关系;并通过微调 Qwen2.5-1.5B-Instruct 验证,状态数 c 较小时预测更准但更脆弱。目前报道仅涉及该论文,尚无后续验证或争议信息。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Machine Learning Theory模式识别与逐步推理之间的二分关系
论文提出模式识别与逐步推理是同一谱系的两端:当下一 token 只依赖少量前文时,LLM 学会逐步推理;依赖大量前文时,推理退化为模式识别。作者将推理轨迹建模为 De Bruijn 图上的路径,证明所需边数远少于轨迹数且训练样本量呈幂律关系,并通过微调 Qwen2.5-1.5B-Instruct 验证小 $c$ 状态更准但更脆弱。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.