热点事件持续更新
关系型ICL支持集目标泄露:影响、检测与缓解
2 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
研究揭示关系型ICL中支持集包含目标派生特征会产生目标泄露失败模式,查询集本身不受影响。构建14种合成泄露类型、对应20列,涵盖不同噪声、覆盖度、模态与关系距离,用冻结关系编码器加ICL头在RelBench数据库评估。0-hop与Full泄露造成最大偏差,高阶泄露效应较弱;泄露效应高度依赖任务与模型,甚至可反转模型变体间的相对结论。Integrated Gradients可排序并移除可疑列,在泄露影响最大的设置下部分恢复性能。
AI 根据报道生成 · 2 小时前更新
最新进展9月30日 12:00
研究新增14种合成泄露类型与Integrated Gradients检测方法,并验证移除可疑列可部分恢复性能。事件进展
2 个进展
- 9月30日 12:00 · 1 篇报道Relational ICL中支持集目标泄漏研究arXiv · Artificial Intelligence:关系型基础模型在上下文学习中的支持集目标泄露:模型依赖性与评估可靠性
- 9月30日 12:00 · 1 篇报道关系型基础模型在上下文学习中的支持集目标泄露问题arXiv · Artificial Intelligence:关系型基础模型在上下文学习中的支持集目标泄露:影响、检测与缓解
报道时间线
沿着报道,了解事件的不同侧面。
9月30日
- arXiv · Artificial Intelligence关系型基础模型在上下文学习中的支持集目标泄露:模型依赖性与评估可靠性
研究揭示关系型 ICL 中支持集目标泄露导致评估偏差,构建 20 个目标衍生特征并在 13 个 RelBench 任务与 5 种 ICL 配置上评估。0-hop 与 Full 泄露造成最大偏差,高阶泄露效应较弱;泄露效应高度依赖任务与模型,甚至可反转模型变体间的相对结论。
- arXiv · Artificial Intelligence关系型基础模型在上下文学习中的支持集目标泄露:影响、检测与缓解
关系型上下文学习(ICL)在支持集包含目标派生特征时会产生目标泄露失败模式,查询集本身不受影响。研究构建了14种合成泄露类型、对应20列,涵盖不同噪声、覆盖度、模态与关系距离。用冻结关系编码器加ICL头在RelBench数据库评估,Integrated Gradients可排序并移除可疑列,在泄露影响最大的设置下部分恢复性能。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。