热点事件持续更新
OLIVE：在线语言模型蒸馏新方法
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
OLIVE（OnLine InterVEntion）是一种在线语言模型蒸馏方法，旨在解决离线 SFT 的序贯协变量偏移、前缀失败的碎片监督以及分布匹配蒸馏需要教师 token 概率的问题。其核心流程为：在每次迭代中，学生策略先生成新前缀，教师再自回归续写，学生基于教师生成的 token 计算交叉熵来更新。该方法于 2026-09-30 发布于 arXiv（Computation and Language），为一手研究。
AI 根据报道生成 · 2 小时前更新
最新进展9月30日 12:00
2026-09-30 论文发布，OLIVE 通过教师续写学生状态实现在线语言模型蒸馏。报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- arXiv · Computation and LanguageOLIVE：通过教师续写学生状态实现在线语言模型蒸馏
OLIVE（OnLine InterVEntion）在每次迭代中让学生策略生成新前缀，教师自回归续写，学生基于教师生成的 token 计算交叉熵更新。它解决了离线 SFT 的序贯协变量偏移、前缀失败的碎片监督以及分布匹配蒸馏需要教师 token 概率的问题。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。