HLA：循环语言模型混合潜注意力，缓存降10.7倍

研究者提出面向循环语言模型的混合潜注意力（Hybrid Latent Attention，HLA）。该方法在滑动窗口内保留精确键值，窗口外的旧 token 存为紧凑潜表示，供每层循环直接读取，无需重建键值。此前报道还提到 HLA 可将缓存降低10.7倍；本次新报道未重复该数字，也未给出实验规模、基准或与其他方法的对比数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。