跳到正文
热点事件持续更新

Vast用分层存储缓解AI Agent记忆压力

1 篇报道1 个报道来源3 小时前 更新

先了解这件事

AI 综述

Vast 提出以分层存储缓解 AI 智能体的内存压力:优先使用 GPU 内存,其次使用同机 CPU 内存,最终落到可保存 PB 级 KV cache 的持久介质,并由 Nvidia Dynamo 负责编排调度。该方案旨在降低长上下文智能体对显存的占用,目前报道仅披露架构思路,未给出落地时间或性能数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. SiliconANGLE · AI
    Vast 用分层存储缓解 AI 智能体内存压力

    Vast 提出用分层存储缓解 AI 智能体内存压力,先用 GPU 内存、再用同机 CPU 内存,最后落到可保存 PB 级 KV cache 的持久介质,并由 Nvidia Dynamo 编排调度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。