arXiv · Artificial Intelligence· Roshan Reddy Upendra, Alexandre Dorais, Joe Meyer, Andrew Pouret, Anastasios Lambrianos Stappas, Dinesh Katupputhur Ramprasath, Tom Palczewski, Minghua Li·· 6 小时前AI 评分35
关系型基础模型在上下文学习中的支持集目标泄露:影响、检测与缓解
Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Impact, Detection, and Mitigation
AI 导读
关系型上下文学习(ICL)在支持集包含目标派生特征时会产生目标泄露失败模式,查询集本身不受影响。研究构建了14种合成泄露类型、对应20列,涵盖不同噪声、覆盖度、模态与关系距离。用冻结关系编码器加ICL头在RelBench数据库评估,Integrated Gradients可排序并移除可疑列,在泄露影响最大的设置下部分恢复性能。
来源:arXiv · Artificial Intelligence · arxiv.org