SAPD：免 rollout 的步对齐特权自蒸馏方法

2026年10月8日，arXiv Computation and Language 发布 SAPD（步对齐的特权知识蒸馏方法）。该方法是一种无需 rollout 的自蒸馏方法，将固定演示转化为步对齐的分布式监督，为每个推理步骤匹配针对性的特权指导。在数学推理基准上，SAPD 平均优于监督微调和标签平滑，与在线强化学习和自蒸馏方法表现相当，训练循环速度约提升 2 倍，并基本保持域外编码性能。论文还称相关代码已开源。目前报道仅涉及该方法提出与初步实验结果，未见后续独立验证或争议信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。