arXiv · Machine Learning· Haohui Zhang, Keyu Chen, Haocheng Sun, Weibo Gu, Ruizhi Qiao, Xing Sun, Bo Jiang·· 7 小时前AI 评分40
DSpine：通过相邻因果注入实现并行草稿与深度条件解码的推测解码方法
Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding
AI 导读
DSpine 在骨干网络各层通过门控相邻注入将前驱预测特征写入后继，使因果条件链沿网络深度展开，同时所有位置并行更新。在 Qwen3-4B 和 Qwen3-8B 上，DSpine 在两个温度下均取得最长接受长度；0 温度下 Qwen3-8B 七项 benchmark 均值从 DFlash 的 3.77 提升至 4.82（+27.8%），SGLang 服务测试中吞吐量平均提升 23.3%。
来源：arXiv · Machine Learning · arxiv.org