无触发数据投毒可致事实答案正确但决策仍被误导
Get the story
2026-10-05，arXiv Computation and Language 发布一手研究《无触发器也能传播错误信息：从事实答案到下游决策》。研究指出，模型在无触发器投毒下仍会改变事实答案与下游决策，直接探测与模型实际行为之间存在审计缺口。Guess the Capital 任务中，8 个模型在剂量 1,000 时直接注入选择率达 95.8–100%，而游戏选择仅比真实对照高 1.7–14.4 个百分点。真实案例中，模型训练于 2019–20 澳大利亚山火虚假帖子后仍声称有人因纵火被捕；纠正事实能恢复答案，却无法恢复基于它的决策。
Generated from reports · updated 16 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and Language无触发器也能传播错误信息：从事实答案到下游决策
研究发现，模型在无触发器投毒下仍会改变事实答案与下游决策，直接探测与模型实际行为之间存在审计缺口。在 Guess the Capital 任务中，8 个模型于剂量 1,000 时直接注入选择率达 95.8–100%，而游戏选择仅比真实对照高 1.7–14.4 个百分点。真实案例中，模型训练于 2019–20 澳大利亚山火虚假帖子后仍声称有人因纵火被捕；纠正事实能恢复答案，却无法恢复基于它的决策。
Heat trend
Current heat 7·Comparable peak 10（Oct 5）·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.