arXiv · Human-Computer Interaction· Tao Long, Lydia B. Chilton·· 3 小时前AI 评分34
SPEAR:交互式人机对齐的五项原则
SPEAR: Five Principles for Interactive Human-Agent Alignment
AI 导读
该论文提出 SPEAR 框架,把人机对齐从部署前的偏好学习与微调,重新定义为持续的交互设计问题。SPEAR 包含五项支柱:Specification(意图表达与共识建立)、Process(智能体何时行动、询问、延后或暂停)、Evaluation(用户如何判断成功)、Adaptation(智能体随重复使用适应用户)与 Recalibration(用户调整信任与预期)。
来源:arXiv · Human-Computer Interaction · arxiv.org