Skip to content
Hot eventLive

KPA：用Kronecker积分解压缩KV缓存

1 reports1 sources2 hr ago updated

Get the story

AI overview

研究者提出 Kronecker Product Attention（KPA），将 key 和 value 激活表示为紧凑的、依赖 token 的矩阵因子的 Kronecker 乘积之和，以实现内存高效的 KV 压缩。该方法严格泛化了 Tensor Product Attention（TPA）。该成果发表于 arXiv（Machine Learning Theory，2026-10-12），目前公开信息仅涉及方法提出与理论定位，尚无实验数据或第三方验证报道。

Generated from reports · updated 2 hr ago

LatestOct 12
2026-10-12 研究者提出KPA，用Kronecker乘积分解压缩KV缓存，严格泛化TPA。

Timeline

Follow the coverage from different angles.

Oct 12, 2026
  1. arXiv · Machine Learning Theory
    Kronecker Product Attention：用结构化分解实现内存高效的 KV 压缩

    研究者提出 Kronecker Product Attention（KPA），将 key 和 value 激活表示为紧凑的、依赖 token 的矩阵因子的 Kronecker 乘积之和，严格泛化了 Tensor Product Attention（TPA）。

Heat trend

There is not enough continuous observation data to draw a trend yet.