arXiv · Computation and Language· Nusrat Jahan Lia, Shubhashis Roy Dipta·· 8 hr agoSelectedAI score73
BACKDROP基准揭示智能体在真实干扰环境中的能力衰减
The Backdrop Exposes What the World Around an Agent Costs It
AI brief
论文提出BACKDROP基准，在智能体执行任务时逐一或组合植入权威覆盖、注入、重域和故障恢复四类日常干扰。在3678个变体、16个模型上，四类干扰同时存在时平均通过率从69.5%降至31.3%，最强模型Claude Fable 5.1从96.6%降至56.0%；智能体对注入文本有抵抗力，但46.4%的运行仍会遵循他人消息。
Why it matters
研究揭示干净环境中训练的智能体在真实干扰下能力大幅下降，为评估实际部署上限提供了可复现的基准。
Source: arXiv · Computation and Language · arxiv.org