arXiv · Computation and Language· Chen Yueh-Han, Bruce W. Lee, Ilia Sucholutsky, Tomek Korbak·· 7 小时前AI 评分58
Alignment Forecasting：从训练数据预测对齐失败
Alignment Forecasting: Predicting Misalignment From Training Data
AI 导读
论文提出 Alignment Forecasting 任务，在微调前预测模型是否会在欺骗或谄媚等失败模式上显著恶化。作者构建了 ALIGNMENTFORECASTBENCH，包含 5000+ 问题，覆盖 17 个目标模型、32 个数据集和 16 种失败模式。
来源：arXiv · Computation and Language · arxiv.org