研究揭示开放权重LLM触发标记机制在对抗攻击下的脆弱性

1. 12:00
   arXiv · Computers and Society

   开放权重 LLM 滥用检测中触发标记机制的脆弱性

   论文将开放权重 LLM 的触发标记机制分为 token 级与权重级两类，并提出统一攻击框架 Untag，以钓鱼内容生成为案例展开评估。结果显示，现有触发标记机制在攻击者能改写输出或修改开放权重时完全失效，因此不应被视为稳健的滥用检测手段。研究认为这些机制在受控环境下虽可提供证据，但面对对抗性攻击缺乏鲁棒性。

Current heat 7·Comparable peak 10（Oct 5）·Comparable change over 24 hours –

The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.