arXiv · Computation and Language· Longxuan Yu, Bingsen Chen, Peng Shi, Dongkyu Lee, Yi Xiang, Hideo Kobayashi, Sheng Zhang, Shuaichen Chang, Xing Niu, Zhuoyan Xu, Greg Ver Steeg, Jiarong Jiang·· 3 小时前AI 评分42
DEdit:迭代草案编辑的推测解码方法
DEdit: Iterative Draft Editing for Speculative Decoding
AI 导读
DEdit 是一种基于扩散模型的草案生成器,在传统并行 unmasking 基础上支持通过 token-to-token 预测迭代编辑草案,利用后续预测作为双向上下文修复早期错误并延长接受前缀。
来源:arXiv · Computation and Language · arxiv.org