如何为 AI 推理和 TCO 合理配置 GPU 规模而不超支

summary_zh: 随着 AI 推理负载规模扩大，组织在延迟目标、模型选择、流量模式和预算约束下难以合理配置 GPU 资源并优化总拥有成本（TCO）。文章针对推理场景提供 GPU 规模规划与 TCO 优化方法，帮助在性能与成本之间取得平衡，避免过度配置。