arXiv · Artificial Intelligence· Ritvij Sharma, Russell Dlugosz, Ryan Zhou, Maheep Chaudhary·2026-10-07 12:00· 3 小时前AI 评分34

LLM 防御纵深：评估记忆门控对抗激活诱导与记忆诱导谄媚

Defense-in-Depth for LLMs: Evaluating Memory Gates Against Activation-Induced and Memory-Induced Sycophancy

AI 导读

研究提出 2×2 防御纵深框架，分离内部激活引导与外部记忆处理，在 MemSyco-Bench 上评测四个开源模型、10 个引导系数与五种记忆防御配置。Selective Router Gate 比完全移除记忆保留更多平均准确率，且在模型被引导偏向谄媚时仍成立。