热点事件持续更新
HAWK提出多模态草稿策略改进推测解码
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
HAWK针对大视觉语言模型的推测解码提出改进策略，通过表示相似度选择目标层并组合隐藏状态，同时将压缩后的视觉隐藏状态直接提供给浅层草稿模型。该方法在SmolVLM-256M上进行了实验验证，在10个多模态基准中将平均接受长度从3.32提升至4.08，贪婪解码速度从2.19x提高到2.60x，采样模式下从1.92x提升至2.19x。
AI 根据报道生成 · 1 小时前更新
最新进展10月2日 12:00
HAWK方法在SmolVLM-256M上显著提升多模态推测解码效率，平均接受长度与解码速度均有所提高。报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- arXiv · Computer VisionHAWK：重新思考多模态草稿预测以加速推测解码
HAWK 针对大视觉语言模型（LVLMs）的推测解码提出改进，通过表示相似度选择目标层并组合隐藏状态，同时将压缩后的视觉隐藏状态直接提供给浅层草稿模型。实验显示，在 SmolVLM-256M 上，HAWK 在 10 个多模态基准中将平均接受长度从 3.32 提升至 4.08，贪婪解码下速度从 2.19x 提高到 2.60x，采样模式下从 1.92x 提升至 2.19x。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。