跳到正文
原文
Together AI·· 2026-04-24精选AI 评分70

Together AI 发布分布感知推测解码 DAS,RL 展开加速最高 50%

Accelerate RL rollouts by up to 50% with distribution-aware speculative decoding

AI 导读

Together AI 推出分布感知推测解码(DAS)框架,通过自适应后缀树推测器和长度感知调度,在数学和代码 RL 后训练中分别实现 50% 和 25% 的展开时间缩减,且不损失奖励质量。https://www.together.ai/blog/distribution-aware-speculative-decoding

推荐理由

原文给出了无损加速框架和实验数据,读者可据此评估是否在自己的 RL 后训练流程中引入 DAS。

来源:Together AI · together.ai