arXiv · Statistics Machine Learning· Farhad Pashakhanloo, Jacob A. Zavatone-Veth·· 1 天前AI 评分24
欠完备线性自编码器中的尺度对称性破缺
Broken scale symmetries in undercomplete linear autoencoders
AI 导读
论文证明欠完备线性自编码器的解几何会为尺度漂移选择优先方向:在 PCA 解流形上,有限步长 SGD 偏好更大的解码器权重。该定向漂移发生在慢时间尺度上,可用解析的有效描述刻画,但规模增大会使动力学逼近有限步长稳定性边界。
来源:arXiv · Statistics Machine Learning · arxiv.org