arXiv · Artificial Intelligence· Suorong Yang, Jiaxin Wang, Jiaming Su, Chentao Yue, Furao Shen, Peng Ye, Soujanya Poria·· 2 小时前AI 评分36
Learning More by Training Less：面向高效推理后训练的不确定性引导渐进收缩方法
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
AI 导读
该研究提出不确定性引导渐进收缩框架，围绕中间推理状态构建 Monte Carlo 推理树以暴露过程级不确定性，先将语料收缩为教师指导的紧凑池，再在 SFT 中按学生状态在线路由优化。实验显示其仅用全量 SFT 0.22% 的优化预算、训练曝光减少 450 倍以上，推理性能保持或提升，并可跨学生模型族、黑盒教师与弱到强迁移泛化。
来源：arXiv · Artificial Intelligence · arxiv.org