Hugging Face Blog·· 2026-08-18精选AI 评分62
Dharma AI:GPU管理实践——相同集群提升33个百分点利用率
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Dharma AI发布约束感知GPU分配器,在七种基准场景中对比FIFO调度器,相同硬件与负载下GPU利用率提升最多33个百分点,优先级加权输出最多提升105%。该方法将实时推理视为需求曲线而非固定预留,按优先级跨整个调度 horizon 放置批量任务,并通过22维特征预测训练负载与周需求画像来支撑调度决策。
推荐理由
同一集群通过调整分配顺序而非更换硬件,实现了最高33个百分点的利用率提升,为企业GPU调度提供了可复用的约束感知方法。
来源:Hugging Face Blog · huggingface.co