arXiv · Computation and Language· Usman Anwar, Sahar Abdelnabi, David Krueger·· 7 小时前AI 评分47
训练大语言模型表达评估意识
Training LLMs to Verbalize Evaluation Awareness
AI 导读
研究提出口头化训练(VT)方法,使 Qwen3.6-35B-A3B、Kimi K2.6 和 Inkling 的口头化评估意识提升 2.4-2.9 倍,同时潜在评估意识和行为保持稳定。VT 利用模型自发口头化作为证据,在口头化前截断 rollout 并用 RL 目标训练。该方法可迁移到未见过的智能体场景,且口头化反映模型通过合成文档微调获得的更丰富知识。
来源:arXiv · Computation and Language · arxiv.org