Skip to content
Hot eventLive

SAPD:免 rollout 的步对齐特权自蒸馏方法

1 reports1 sources4 hr ago updated

Get the story

AI overview

2026年10月8日,arXiv Computation and Language 发布 SAPD(步对齐的特权知识蒸馏方法)。该方法是一种无需 rollout 的自蒸馏方法,将固定演示转化为步对齐的分布式监督,为每个推理步骤匹配针对性的特权指导。在数学推理基准上,SAPD 平均优于监督微调和标签平滑,与在线强化学习和自蒸馏方法表现相当,训练循环速度约提升 2 倍,并基本保持域外编码性能。论文还称相关代码已开源。目前报道仅涉及该方法提出与初步实验结果,未见后续独立验证或争议信息。

Generated from reports · updated 3 hr ago

Timeline

Follow the coverage from different angles.

Oct 8, 2026
  1. arXiv · Computation and Language
    SAPD:步对齐的特权知识蒸馏方法

    SAPD 是一种无需 rollout 的自蒸馏方法,把固定演示转化为步对齐的分布式监督,为每个推理步骤匹配针对性的特权指导。在数学推理基准上平均优于监督微调和标签平滑,与在线强化学习和自蒸馏相当,训练循环速度约提升 2x,并基本保持域外编码性能。代码已开源。

Heat trend

Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –

02.557.510Oct8Oct8Oct8Oct8

The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.