arXiv · Statistics Machine Learning· Yidong Ouyang, Zhengyan Wan, Themis Haris, Tian Tan, Liqian Peng, Henry Li, Ziqian Lin, Jianhang Chen, Maryam Karimzadehgan, Alec Go, George Michailidis·· 3 小时前AI 评分22
通过离散平均生成器加速扩散语言模型
Acceleration of Diffusion Language Model through Discrete Average Generator
AI 导读
论文提出离散平均生成器（Discrete Average Generator），作为 MeanFlow 到连续时间马尔可夫链（CTMC）的扩展。在 OpenWebText 上，该方法在 8 到 64 步采样中实现 16 倍加速并达到最低生成困惑度；在 Potts 模型模拟中，K 步采样器的总变差距离最多降低 67%。
来源：arXiv · Statistics Machine Learning · arxiv.org