热点事件持续更新
Semi-OPD：离线学生轨迹蒸馏常优于在线策略蒸馏
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
2026年10月9日，arXiv（Computation and Language，一手来源）发表论文提出 Semi-OPD 方法：在初始学生模型生成的离线轨迹上进行蒸馏，而非采用在线策略蒸馏（OPD）。论文报告，在 17 组参数规模从 1.5B 到 235B 的师生模型组合中，Semi-OPD 有 14 组表现优于 OPD，准确率最高提升 13.6%，训练速度最高加快 11.4 倍。研究进一步用输出 token 重叠率刻画师生模型的初始对齐程度，认为只有在高重叠情况下 OPD 才具有优势；Semi-OPD 由于在更短上下文上覆盖完整轨迹而更稳定。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- arXiv · Computation and Language何时需要在线策略蒸馏？离线学生轨迹蒸馏往往更优
论文提出 Semi-OPD，在初始学生模型生成的离线轨迹上做蒸馏，在 17 组 1.5B 到 235B 参数的师生模型中 14 组优于 OPD，准确率最高提升 13.6%，训练速度最高加快 11.4 倍。研究进一步用输出 token 重叠率刻画师生初始对齐程度，认为只有高重叠时 OPD 才有优势，Semi-OPD 因在更短上下文上覆盖完整轨迹而更稳定。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。