跳到正文
热点事件持续更新

SchemaFill:槽位并行投机解码提升LLM工具调用效率

1 篇报道1 个报道来源2 小时前 更新

先了解这件事

AI 综述

2026年10月7日,arXiv 机器学习理论栏目发布一手论文,介绍 SchemaFill 框架。该框架面向 LLM 工具调用场景,采用槽位并行投机解码:让未来槽位值并发生成候选,再由目标模型在实际输出前缀下验证,仅提交通过验证的 token。候选可跨多个字段和调用拼接验证,无需预知实际调用序列或参数值。论文称在 Glaive 和 BFCL 基准上,端到端吞吐量较自回归解码最高提升 4.05×,代码已开源。目前报道仅此一篇,尚无后续验证或争议信息。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv · Machine Learning Theory
    SchemaFill:用槽位并行投机解码提升 LLM 工具调用效率

    SchemaFill 提出槽位并行投机解码框架,让 LLM 工具调用中的未来槽位值并发生成候选,再由目标模型在实际输出前缀下验证,仅提交通过验证的 token。候选可跨多个字段和调用拼接验证,无需预知实际调用序列或参数值。在 Glaive 和 BFCL 上,端到端吞吐量较自回归解码最高提升 4.05×,代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。