arXiv · Machine Learning Theory· Qingwen Lin, Boyan Xu, Shifeng Xie, Zhifeng Hao, Keli Zhang, Ruichu Cai·· 3 hr agoAI score38
HART:混合 Attention-RWKV 时间序列基础模型
HART: Hybrid Attention-RWKV Time series Foundation Model
AI brief
研究者提出 HART,一种交替堆叠 Attention 与 RWKV 模块的时间序列基础模型,以解决 RWKV-7 在非自回归多步预测(NAF)中的长程退化问题。
Source: arXiv · Machine Learning Theory · arxiv.org