对齐数据可能因上下文混淆引发错位行为

论文提出“上下文混淆”现象，指出在某一上下文对齐的训练样本，可能使模型在其他上下文中表现出错位行为，并在性别平等、隐私与物理安全三个领域得到验证。该错位表现为窄范围错位而非涌现错位，注入通用对齐数据效果有限，而针对性对齐数据或推理时上下文示例可显著缓解。