DIAL-OPD:在线策略蒸馏的 token 选择方法
Get the story
2026年10月9日,arXiv(Computation and Language,一手来源)发布 DIAL-OPD 方法。该方法属于在线策略蒸馏(OPD)中的 token 选择方法,按学习价值筛选 token,仅保留 40% 的 token 即优于全 token OPD。实验覆盖 4 组师生模型对和 7 个数学推理基准:平均准确率较 Vanilla OPD 最高提升 5.25 个百分点,AIME25 Pass@16 从 13.33% 翻倍至 26.67%,且较最强基线最高相对提升 18%。目前未见后续报道或独立验证。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and LanguageDIAL-OPD:在在线策略蒸馏中用更少 token 学得更多
DIAL-OPD 是一种在线策略蒸馏的 token 选择方法,按学习价值筛选 token,仅保留 40% 的 token 即优于全 token OPD。在 4 组师生模型对和 7 个数学推理基准上,其平均准确率较 Vanilla OPD 最高提升 5.25 个百分点,AIME25 Pass@16 从 13.33% 翻倍至 26.67%,且较最强基线最高相对提升 18%。
Heat trend
Current heat 9·Comparable peak 10(Oct 9)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.