SiliconANGLE · AI· Sloane Kali Faye·· 4 小时前AI 评分37
Vast 用分层存储缓解 AI 智能体内存压力
Vast uses tiered storage to ease AI agent memory demands
AI 导读
Vast 提出用分层存储缓解 AI 智能体内存压力,先用 GPU 内存、再用同机 CPU 内存,最后落到可保存 PB 级 KV cache 的持久介质,并由 Nvidia Dynamo 编排调度。
来源:SiliconANGLE · AI · siliconangle.com