Skip to content
Hot eventLive

不确定性引导渐进收缩框架压缩推理后训练

1 reports1 sources2 hr ago updated

Get the story

AI overview

2026年10月12日，arXiv（Artificial Intelligence）发布一手研究《Learning More by Training Less》，提出面向高效推理后训练的不确定性引导渐进收缩方法。该框架围绕中间推理状态构建Monte Carlo推理树，以暴露过程级不确定性；随后将语料收缩为教师指导的紧凑池，并在监督微调（SFT）阶段按学生状态在线路由优化。实验显示，该方法仅用全量SFT 0.22%的优化预算，训练曝光减少450倍以上，推理性能保持或提升，并可跨学生模型族、黑盒教师与弱到强迁移泛化。目前报道未涉及同行评审或后续验证信息。

Generated from reports · updated 2 hr ago

LatestOct 12
arXiv新研究提出不确定性引导渐进收缩框架，用0.22%全量SFT预算实现推理性能保持或提升。

Timeline

Follow the coverage from different angles.

Oct 12, 2026
  1. arXiv · Artificial Intelligence
    Learning More by Training Less：面向高效推理后训练的不确定性引导渐进收缩方法

    该研究提出不确定性引导渐进收缩框架，围绕中间推理状态构建 Monte Carlo 推理树以暴露过程级不确定性，先将语料收缩为教师指导的紧凑池，再在 SFT 中按学生状态在线路由优化。实验显示其仅用全量 SFT 0.22% 的优化预算、训练曝光减少 450 倍以上，推理性能保持或提升，并可跨学生模型族、黑盒教师与弱到强迁移泛化。

Heat trend

There is not enough continuous observation data to draw a trend yet.