arXiv · Computation and Language· Jiangnan Yu, Ceyu Xu, Mengming Li, Shiyu Huang, Yiran Xia, Jian Weng, Hui Xue, Haohui Mai, Yuan Xie·· 2 小时前精选AI 评分62
TomasuLLM:面向 LLM Agent 的乱序推测执行运行时
TomasuLLM: Out-of-Order Speculative Execution for LLM Agents
AI 导读
论文提出 TomasuLLM 运行时,在保持任务正确性的前提下按预测顺序提前执行 Agent 工具调用,并在验证后按轨迹顺序提交。在 SWE-bench Verified、Terminal-Bench 2.0 和 SWE-Marathon 上分别提速 1.31x、1.35x 和 1.27x,4010 条审计记录零误接受。https://arxiv.org/abs/2609.38201
推荐理由
为长时工具延迟提供了乱序执行思路,读者可借此评估它对现有 Agent 工作流的潜在加速空间。
来源:arXiv · Computation and Language · arxiv.org