Together AI·· 2026-05-19精选AI 评分73
Together AI 发布编码智能体推理基准测试
Benchmarking inference at scale: coding agents
AI 导读
Together AI 推出面向编码智能体的规模化推理基准,测试长提示(45k–200k token)、高并发与短输出(平均 450 token)场景下的 TPM、TPS 与 p50 TTFT。
推荐理由
原文给出了一套高并发长上下文编码智能体的基准测试方法与退化曲线,读者可据此评估自研或商用引擎在真实负载下的 TTFT 与吞吐表现。
来源:Together AI · together.ai