热点事件持续更新
Transformer 拒答机制的组件与维度稀疏性研究
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
2026年10月7日，arXiv Computation and Language 发布一手研究《Transformer 拒答机制中的组件与维度稀疏性》。该研究将拒答 steering 分解为组件级干预，在四个开源模型上定位到足以复现完整行为效果的稀疏注意力与 MLP 组件子集。结果显示，拒答方向集中在占上游组件 28–48% 的稀疏机制中，保留 88–101% 的 steering 效果；机制内部又集中在约 50% 的残差流维度，保留 85–98% 的基线。代码与原始实验结果已公开。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
研究公开代码与原始实验结果，定位出稀疏组件子集与约半数残差流维度。报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv · Computation and LanguageTransformer 拒答机制中的组件与维度稀疏性
研究将拒答 steering 分解为组件级干预，在四个开源模型上定位到足以复现完整行为效果的稀疏注意力与 MLP 组件子集。拒答方向集中在占上游组件 28–48% 的稀疏机制中，保留 88–101% 的 steering 效果；机制内部又集中在约 50% 的残差流维度，保留 85–98% 的基线。代码与原始实验结果已公开。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。