arXiv · Artificial Intelligence· Yuanhe Zhang, Ziwei Wang, Jie Ren, Haoran Gao, Zhenhong Zhou, Fanyu Meng, Cong Wu, Li Sun, Sen Su·· 3 小时前AI 评分50
When Reasoning Goes Astray: Attention Dynamics of Uncontrolled Reasoning
When Reasoning Goes Astray: Attention Dynamics of Uncontrolled Reasoning
AI 导读
论文提出 Reasoning-state Analysis via Dynamic Attention Responses（RADAR），将大语言模型生成划分为四个状态并实时识别推理状态。实验表明，无控制推理在重复开始前即可通过注意力分布异常被检测到，注意力重对齐能减少循环同时保持良性性能。
来源：arXiv · Artificial Intelligence · arxiv.org