基于粒子的广义随机优化方法

论文提出一类基于扩散的广义随机粒子优化方法，用于处理梯度不可解的损失函数，即损失梯度为关于参数相关分布的积分，涵盖生成模型训练、微调与潜变量模型学习。作者引入平均场动力学及其相互作用粒子近似，证明在适定性与联合收缩性假设下指数收敛，并给出连续时间粒子系统的非渐近误差界。框架还衍生高阶 Langevin 与动量优化器，在最大边际似然估计和能量模型训练上验证。