Hot eventLive
SF-MOPD:慢快多教师在线策略蒸馏缓解能力干扰
1 reports1 sources16 hr ago updated
Get the story
AI overview
研究者提出慢快多教师在线策略蒸馏(SF-MOPD),用于缓解多教师在线策略蒸馏(MOPD)中的能力干扰问题。该方法引入两个模型:以当前学生模型作为快模型,以学生参数的指数移动平均作为慢模型,通过双模型协同在蒸馏过程中保留通用能力。相关成果以一手研究形式发表于 arXiv(Machine Learning Theory),截至目前未见后续验证或争议报道。
Generated from reports · updated 16 hr ago
Timeline
Follow the coverage from different angles.
Oct 5, 2026
- arXiv · Machine Learning TheorySF-MOPD:慢快双模型多教师在线策略蒸馏保留通用能力
研究者提出 Slow-Fast Multi-Teacher On-Policy Distillation(SF-MOPD),用当前学生模型作为快模型、以学生指数移动平均作为慢模型,缓解多教师在线策略蒸馏(MOPD)中的能力干扰。
Heat trend
Current heat 6·Comparable peak 10(Oct 5)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.