arXiv · Computation and Language· Anhao Zhao, Haoran Xin, Junlong Tong, Yingqi Fan, Xuan Lu, Ping Nie, Wenjie Li, Xiaoyu Shen·· 3 小时前AI 评分46
DIAL-OPD:在在线策略蒸馏中用更少 token 学得更多
DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation
AI 导读
DIAL-OPD 是一种在线策略蒸馏的 token 选择方法,按学习价值筛选 token,仅保留 40% 的 token 即优于全 token OPD。在 4 组师生模型对和 7 个数学推理基准上,其平均准确率较 Vanilla OPD 最高提升 5.25 个百分点,AIME25 Pass@16 从 13.33% 翻倍至 26.67%,且较最强基线最高相对提升 18%。
来源:arXiv · Computation and Language · arxiv.org