Skip to content
Together AI·· May 19SelectedAI score73

Together AI 发布编码智能体推理基准测试

Benchmarking inference at scale: coding agents

AI brief

Together AI 推出面向编码智能体的规模化推理基准,测试长提示(45k–200k token)、高并发与短输出(平均 450 token)场景下的 TPM、TPS 与 p50 TTFT。

Why it matters

原文给出了一套高并发长上下文编码智能体的基准测试方法与退化曲线,读者可据此评估自研或商用引擎在真实负载下的 TTFT 与吞吐表现。

Source: Together AI · together.ai