arXiv · Computation and Language· Jonghyun Song, Haewon Park, Jeonghoon Shim, Woojung Song, Yohan Jo·· 16 hr agoSelectedAI score62
LLM Agent 在真实搜索中如何偏好来源及如何减弱这种偏好
Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It
AI brief
论文研究 LLM Agent 在端到端搜索中的来源偏好，覆盖 12 个 Agent 模型和三个领域，发现模型普遍偏好某些来源并回避另一些，且这种偏好会压倒需求匹配程度：少满足一项要求的条目若来自偏好来源，约三分之二时间仍被选中，反向则几乎不会。来源标识本身会影响选择，隐藏它会减弱偏好，改标为偏好来源会提高选中率；补充缺失信息或加入对抗先入之见的提示词可降低来源偏好。
Why it matters
论文在三个领域比较 12 个 Agent 模型的来源偏好，并给出信息和提示词层面的缓解路径。
Source: arXiv · Computation and Language · arxiv.org