arXiv · Statistics Machine Learning· Meher Chaitanya, Tianyi Zhou, Aristides Gionis·· 4 hr agoAI score33
Muon 是否需要细粒度谱形塑造?
Does Muon Need Fine-Grained Spectral Shaping?
AI brief
研究提出 BulkBoost 双带谱重加权框架,用固定秩与噪声校准两种变体,把低于 Marchenko–Pastur 噪声边的 bulk 与高于边的 spike 分开,仅靠一个共享的 bulk-to-spike 增益调整权重。
Source: arXiv · Statistics Machine Learning · arxiv.org