arXiv · Machine Learning Theory· Zhuolin Fu·· 3 hr agoAI score31
Transformer 的神经期望最大化与元模型
Neural expectation-maximization and meta-models
AI brief
论文将 Transformer 解释为结合 max-product Loopy Belief Propagation 与 Expectation-Maximization 的混合概率推断近似，认为自注意力实现了输入条件动态结构 MRF 上的可微 max-product LBP 近似。
Source: arXiv · Machine Learning Theory · arxiv.org