热点事件持续更新
STAPLE：通过嵌入模块静态稀疏化复用预训练检查点
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
STAPLE 是一种在 STEM 基础上发展的方法，通过把 token 索引嵌入作为残差路径接入预训练模型，对预训练检查点做静态稀疏升级，同时保留原有 FFN 上投影，并学习互补的 token 特定信息。2026-10-12 的 arXiv 报道（Machine Learning Theory，一手）显示，在 OLMo-2 1B 上，STAPLE 较继续稠密训练在 HumanEval、MBPP、GSM8K、DROP 分别提升 4.27、2.80、2.27、1.65 分；该方法在 OLMo-2 7B 上同样有效。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
STAPLE 在 OLMo-2 1B 上四项基准提升显著，并在 OLMo-2 7B 上同样有效。报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv · Machine Learning TheorySTAPLE：通过嵌入模块对预训练检查点做静态稀疏升级
STAPLE 在 STEM 基础上把 token 索引嵌入作为残差路径接入预训练模型，保留原 FFN 上投影并学习互补的 token 特定信息。在 OLMo-2 1B 上较继续稠密训练在 HumanEval、MBPP、GSM8K、DROP 分别提升 4.27、2.80、2.27、1.65 分，OLMo-2 7B 上同样有效。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。