arXiv · Computation and Language· Yue Wu, Qinghe Zhang, Yu Zhang, Jian Huang·· 4 hr agoAI score33
CoDR:面向扩散语言模型的免训练置信度漂移重掩码方法
CoDR: Training-Free Confidence-Drift Remasking for Diffusion Language Models
AI brief
CoDR 是一种免训练、与采样器无关的精炼方法,针对掩码扩散语言模型(MDLM)中已提交 token 因上下文变密而置信度下降的“置信度漂移”问题,通过 k-partition probing 仅用 k 次前向传播估计漂移,重掩码并重新生成模型不再认可的 token。
Source: arXiv · Computation and Language · arxiv.org