研究：激活探针所需合成数据量由覆盖度而非难度决定

该研究关注部署语言模型监控中激活探针的训练数据需求。激活探针依赖合成对话训练，所需样本量由监控概念决定。研究追踪 10-590 个合成样本的学习曲线，在 14 个留出评测分布和 4 个探针模型上开展实验。结果显示，Gemma-3-27B-IT 上的高风险与有害回复探针在 80 样本即接近平台期，而指令遵循探针则需数倍样本，表明所需数据量与概念覆盖度相关而非难度。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。