arXiv · Machine Learning Theory· Qingwen Lin, Boyan Xu, Shifeng Xie, Zhifeng Hao, Keli Zhang, Ruichu Cai·· 2 小时前AI 评分38
HART:混合 Attention-RWKV 时间序列基础模型
HART: Hybrid Attention-RWKV Time series Foundation Model
AI 导读
研究者提出 HART,一种交替堆叠 Attention 与 RWKV 模块的时间序列基础模型,以解决 RWKV-7 在非自回归多步预测(NAF)中的长程退化问题。
来源:arXiv · Machine Learning Theory · arxiv.org