跳到正文
原文
arXiv · Statistics Machine Learning· Nikolaos Makras, Sotirios Sabanis·· 3 小时前AI 评分12

Muon meets Tamed Langevin:动量预条件超越凸与梯度Lipschitz势函数

Muon meets Tamed Langevin: Momentum Preconditioning beyond Convex and gradient-Lipschitz Potentials

AI 导读

论文提出非二次动能族,构建带动量预条件的欠阻尼Langevin系统,用动能梯度对动量进行光滑谱约束。在势能非凸且非全局梯度Lipschitz条件下,证明该动力学保持目标Gibbs测度不变,并在加权全变差距离下建立指数收敛到平衡态。对应Euler-Maruyama离散化获得与时间一致的矩界,无需修改势梯度,确保采样算法稳定。

来源:arXiv · Statistics Machine Learning · arxiv.org