arXiv · Statistics Machine Learning· Hung Phan, Thuy T. Nguyen, Minh Ngoc Dinh, Nhat-Quang Tran·· 3 小时前AI 评分39
Raw-Routed Mixture of Adapters:时间序列基础模型路由崩溃的因果干预
Raw-Routed Mixture of Adapters: A Causal Intervention for Routing Collapse in Time Series Foundation Models
AI 导读
RR-MoA 在严格冻结主干的情况下赢得 54/54 对比,显著优于 LoRA、TRACE、AdaMix 和全量微调。在六个主干和插补任务上泛化,冻结 RR-MoA 比全量微调高 12-79%。预编码器归一化导致路由熵坍缩为零,原始路由是因果干预方案。
来源:arXiv · Statistics Machine Learning · arxiv.org