arXiv · Machine Learning Theory· Ignacy Stepka, Willa Potosnak, Kin G. Olivares, Artur Dubrawski·· 4 hr agoAI score45
时间序列基础模型的尺度不变训练
Scale-Invariant Training for Time Series Foundation Models
AI brief
研究提出尺度不变训练(ScaleIn),修正可逆实例归一化(ReVIN)在计算损失前反变换导致的尺度污染训练(ScaleCon)问题,使梯度对训练序列的独立缩放保持不变。
Source: arXiv · Machine Learning Theory · arxiv.org