arXiv · Artificial Intelligence· Zhixu Du, Weijia Han, Hai Helen Li, Yiran Chen·· 16 小时前AI 评分46
一个 token 的成本是多少？用 Mixture-of-Agents 测量每个 token 的充分计算量
What Does a Token Cost? A Mixture-of-Agents Measurement of Sufficient Per-Token Compute
AI 导读
论文用 Mixture-of-Agents（MoA）方法测量大语言模型每个 token 实际所需的推理计算量，定义能复现该 token 的最小 agent 的推理成本为“充分计算量”。
来源：arXiv · Artificial Intelligence · arxiv.org