研究：推理增强LLM共识生成对提示注入的鲁棒性
Get the story
2026年10月8日，arXiv Computers and Society 发表一项研究，评估现成共识生成大语言模型面对提示词注入攻击的脆弱性。研究发现，默认模型在三种情形下更易失效：意见分歧与赞同接近平衡、遭遇理性指令式修辞策略，以及攻击将共识导向亲联合派保守宣言而非亲独立左翼宣言时。研究提出结合 GPT-OSS-SafeGuard 注入检测、结构化意见表示与 GSPO 强化学习的流水线，称其显著降低方向性失败，优于现有替代方案。目前报道仅涉及该论文内容，未见后续验证或同行评议信息。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computers and Society推理如何增强基于 LLM 的共识生成对提示词注入的鲁棒性
研究评估了现成共识生成 LLM 面对提示词注入攻击的脆弱性，发现默认模型在意见分歧与赞同接近平衡、遭遇理性指令式修辞策略，以及攻击将共识导向亲联合派保守宣言而非亲独立左翼宣言时更易失效。结合 GPT-OSS-SafeGuard 注入检测、结构化意见表示与 GSPO 强化学习的流水线显著降低方向性失败，优于现有替代方案。
Heat trend
Current heat 9·Comparable peak 10（Oct 8）·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.