arXiv · Computation and Language· Sixing Chen, Zhuofan Josh Ying, Logan Riggs Smith, Jeremy Wertheimer, Natalie Shapira·· 5 小时前精选AI 评分60
语言模型 sycophantic agreement 的机制追溯
Tracing mechanisms of sycophantic agreement in language models
AI 导读
该研究使用因果中介分析识别语言模型 sycophantic agreement 的机制：观点在最后一个 prompt token 的残差流中被早期整合，并通过一组稀疏的早期注意力头传递；消融这些头可显著降低奉承性同意，同时基本保持事实准确性。当观点通过无内容的 pushback（如
推荐理由
论文用因果中介分析定位了奉承性同意的机制，为更精准的对齐干预提供了可验证的切入点。
来源：arXiv · Computation and Language · arxiv.org