Skip to content
arXiv · Computation and Language· Yue Wu, Qinghe Zhang, Yu Zhang, Jian Huang·· 4 hr agoAI score33

CoDR:面向扩散语言模型的免训练置信度漂移重掩码方法

CoDR: Training-Free Confidence-Drift Remasking for Diffusion Language Models

AI brief

CoDR 是一种免训练、与采样器无关的精炼方法,针对掩码扩散语言模型(MDLM)中已提交 token 因上下文变密而置信度下降的“置信度漂移”问题,通过 k-partition probing 仅用 k 次前向传播估计漂移,重掩码并重新生成模型不再认可的 token。

Source: arXiv · Computation and Language · arxiv.org