arXiv · Statistics Machine Learning· Yiran Zhang, Mo Zhou, Weihang Xu, Maryam Fazel, Simon S. Du·· 3 小时前AI 评分19
梯度 EM 学习高维高斯混合模型中 √d 分离条件是否必要？
Is $\sqrt{d}$ Separation Necessary for Gradient EM to Learn Gaussian Mixtures in High Dimensions?
AI 导读
论文证明在高维情形下，梯度 EM 学习高斯混合模型所需的真成分间最小分离度 Ω(√d) 的维度依赖不可避免。研究针对混合权重用标准 EM 更新、成分均值用梯度 EM 更新的混合算法，证明对任意 ε>0，当维度足够大时，Ω(d^{0.5-ε}) 量级的分离度在最坏情况下不足以保证随机初始化下总体梯度 EM 在亚指数时间内全局收敛，即便在过参数化设定下也成立。
来源：arXiv · Statistics Machine Learning · arxiv.org