跳到正文
热点事件持续更新

KPA:用Kronecker积分解压缩KV缓存

1 篇报道1 个报道来源2 小时前 更新

先了解这件事

AI 综述

研究者提出 Kronecker Product Attention(KPA),将 key 和 value 激活表示为紧凑的、依赖 token 的矩阵因子的 Kronecker 乘积之和,以实现内存高效的 KV 压缩。该方法严格泛化了 Tensor Product Attention(TPA)。该成果发表于 arXiv(Machine Learning Theory,2026-10-12),目前公开信息仅涉及方法提出与理论定位,尚无实验数据或第三方验证报道。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv · Machine Learning Theory
    Kronecker Product Attention:用结构化分解实现内存高效的 KV 压缩

    研究者提出 Kronecker Product Attention(KPA),将 key 和 value 激活表示为紧凑的、依赖 token 的矩阵因子的 Kronecker 乘积之和,严格泛化了 Tensor Product Attention(TPA)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。