arXiv · Machine Learning· Isabelle Aguilar, Zayn Andre Zainal, Luis Fernando Herbozo Contreras, Zhaojing Huang, Omid Kavehei·· 5 小时前AI 评分20
Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning
Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning
AI 导读
summary_zh: TMLN（Trajectory-Modulatory Landscape Navigation）将持续学习形式化为曲率损失景观上的最优控制问题，利用对角经验 Fisher 信息矩阵（FIM）定义局部 Riemannian 流形，并通过网络参数值的历史轨迹动态调节预条件器，直接集成到梯度更新中，从而在不依赖加法惩罚的情况下保护历史关键参数方向。
来源：arXiv · Machine Learning · arxiv.org