论文:重尾噪声下带梯度裁剪的去中心化SGD达到最优收敛率
Get the story
2026年10月8日,arXiv Multiagent Systems 频道发布论文《重尾噪声下的去中心化 SGD:最优收敛率与梯度裁剪的作用》。论文证明,带梯度裁剪的去中心化 SGD(DSGD)在光滑非凸目标与有界 p 阶矩噪声(p ∈ (1,2])条件下,以高概率与期望均达到阶最优收敛率。分析给出关于智能体数量的线性加速,并指出归一化 DSGD 可能不收敛,而裁剪保留梯度幅值信息,使 DSGD 收敛且阶最优。论文还通过数值实验验证了理论结果。目前未见后续报道或同行评议信息。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Multiagent Systems重尾噪声下的去中心化 SGD:最优收敛率与梯度裁剪的作用
论文证明带梯度裁剪的去中心化 SGD(DSGD)在光滑非凸目标与有界 p 阶矩噪声(p ∈ (1,2])下,以高概率与期望均达到阶最优收敛率。分析给出关于智能体数量的线性加速,并指出归一化 DSGD 可能不收敛,而裁剪保留梯度幅值信息,使 DSGD 收敛且阶最优。数值实验验证了理论结果。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.