arXiv · Statistics Machine Learning· Akshay Balsubramani·· 3 小时前AI 评分28
Exact information accounting for SGD methods
Exact information accounting for SGD methods
AI 导读
summary_zh: 该文给出随机梯度下降（SGD）及其变体的精确信息论分析，证明预处理 SGD 步是高斯贝叶斯模型的后验均值更新，并将单步遗憾分解为内禀时间代价与比较器信息变化。
来源：arXiv · Statistics Machine Learning · arxiv.org