arXiv · Computation and Language· Jiangnan Yu, Ceyu Xu, Mengming Li, Shiyu Huang, Yiran Xia, Jian Weng, Hui Xue, Haohui Mai, Yuan Xie·· 8 hr agoSelectedAI score62
TomasuLLM：面向 LLM Agent 的乱序推测执行运行时
TomasuLLM: Out-of-Order Speculative Execution for LLM Agents
AI brief
论文提出 TomasuLLM 运行时，在保持任务正确性的前提下按预测顺序提前执行 Agent 工具调用，并在验证后按轨迹顺序提交。在 SWE-bench Verified、Terminal-Bench 2.0 和 SWE-Marathon 上分别提速 1.31x、1.35x 和 1.27x，4010 条审计记录零误接受。https://arxiv.org/abs/2609.38201
Why it matters
为长时工具延迟提供了乱序执行思路，读者可借此评估它对现有 Agent 工作流的潜在加速空间。
Source: arXiv · Computation and Language · arxiv.org