arXiv · Information Retrieval· Evan Caville, Spencer Kayser, Siamak Layeghy, Billy Sung, Sara Dolnicar, Marius Portmann·· 6 小时前精选AI 评分62
SIREN：PAIR驱动的Web-RAG推荐排序偏好操控研究
SIREN (Luring LLMs onto the Rocks): PAIR-Driven Preference Manipulation in Web-RAG Recommenders
AI 导读
论文提出SIREN方法，将PAIR越狱循环适配到竞争排序操控，在固定检索源条件下对Claude生产模型进行23种内容投毒技术试验。62/124次试验达到rank~1，新会话中平均成功率0.805；声明式排序声明和种子列表通常比指令式注入更有效。
推荐理由
研究在固定检索源条件下对比了23种投毒技术对LLM推荐排序的影响，为理解RAG推荐系统的对抗风险提供了可控证据。
来源：arXiv · Information Retrieval · arxiv.org