Together AI·· 2026-04-24精选AI 评分70
Together AI 发布分布感知推测解码 DAS,RL 展开加速最高 50%
Accelerate RL rollouts by up to 50% with distribution-aware speculative decoding
AI 导读
Together AI 推出分布感知推测解码(DAS)框架,通过自适应后缀树推测器和长度感知调度,在数学和代码 RL 后训练中分别实现 50% 和 25% 的展开时间缩减,且不损失奖励质量。https://www.together.ai/blog/distribution-aware-speculative-decoding
推荐理由
原文给出了无损加速框架和实验数据,读者可据此评估是否在自己的 RL 后训练流程中引入 DAS。
来源:Together AI · together.ai