跳到正文
原文
arXiv · Information Retrieval· Beining Xu, Peichun Hua, Yunming Xiao·· 6 小时前精选AI 评分65

Backdoor in the Loop:恶意检索器攻破 Agentic Search

Backdoor in the Loop: Compromising Agentic Search via Malicious Retrievers

AI 导读

论文研究 Agentic RAG 中检索器后门利用检索-推理反馈循环的攻击方式,攻击者无需修改语料即可抑制有用证据、固定返回文档或延长检索以推高成本。为规避检测,作者提出受控注入再移除循环,用弱化后的后门痕迹欺骗检测器,同时保留恶意检索行为。

推荐理由

该研究揭示了 RAG 系统中检索器与推理的反馈循环可被利用为隐蔽后门通道。

来源:arXiv · Information Retrieval · arxiv.org