跳到正文
热点事件持续更新

Second-Moment Stochastic Approximation Methods

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

2026-09-30,arXiv 发表统计学/机器学习论文,研究同时使用一阶矩与二阶矩估计的随机逼近方法,覆盖 Adam、Muon 等现代深度学习优化器。文章通过最优预条件化视角推导方法,并建立两阶段收敛分析框架,利用 Dvoretzky 定理证明实用方法几乎必然收敛到目标解邻域,邻域半径取决于矩估计器的偏差与方差。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. arXiv · Statistics Machine Learning
    Second-Moment Stochastic Approximation Methods

    本文研究同时使用一阶矩和二阶矩估计的随机逼近方法,涵盖 Adam 和 Muon 等现代深度学习优化器。通过最优预条件化视角推导方法,并建立两阶段收敛分析框架,利用 Dvoretzky 定理证明实用方法几乎必然收敛到目标解邻域,邻域半径取决于矩估计器的偏差和方差。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。