Skip to content
arXiv · Machine Learning Theory· Qingwen Lin, Boyan Xu, Shifeng Xie, Zhifeng Hao, Keli Zhang, Ruichu Cai·· 3 hr agoAI score38

HART:混合 Attention-RWKV 时间序列基础模型

HART: Hybrid Attention-RWKV Time series Foundation Model

AI brief

研究者提出 HART,一种交替堆叠 Attention 与 RWKV 模块的时间序列基础模型,以解决 RWKV-7 在非自回归多步预测(NAF)中的长程退化问题。

Source: arXiv · Machine Learning Theory · arxiv.org