arXiv · Computers and Society· Joshua Horswill, Ross Hunter, Matt Clifford, James Hall·· 6 小时前AI 评分40
Greenpixie 的 AI Token 能耗方法论:评估开放权重与闭源模型每 Token 的能源、水和 CO₂ 排放影响
Greenpixie's AI Token Methodology: Assessing the Energy, Water and CO2-eq Impact of AI Tokens for Open and Closed Weight Models
AI 导读
Greenpixie 提出一种估算云端大语言模型每 Token 能耗的方法论,区分输入(prefill)与输出(decode)Token 的能耗,并用贝叶斯线性回归建模能耗与模型规模、请求流量及硬件部署配置的关系。
来源:arXiv · Computers and Society · arxiv.org