跳到正文
原文
arXiv · Computers and Society· Kamile Dementaviciute, Julija Vaitonyte, Tijl De Bie·· 4 小时前AI 评分40

LLM 的说服力取决于评测方式

LLM Persuasion Is in the Eye of the Evaluation

AI 导读

研究将九种已发表的自动化评测方法统一到同一设置,在十五个 LLM 上运行并比较其排名。结果显示各方法一致性很弱,平均 Spearman ρ=0.25;模型拒绝部分任务(多集中在操控类任务)使一致性下降约四分之一,通用能力主要影响理性说服评测。单一分数只反映特定设置,难以跨任务衡量模型说服力。

来源:arXiv · Computers and Society · arxiv.org