arXiv · Statistics Machine Learning· Simon Gabet (LMO), Etienne Boursier (LMO, CELESTE), Claire Boyer (LMO, IUF)·2026-10-09 12:00· 3 小时前AI 评分27

高斯混合上的 Softmax Attention：能线性则线性，必须时则选择性

Softmax Attention on Gaussian Mixtures: Linear When It Can, Selective When It Must

AI 导读

一篇 arXiv 论文研究 softmax attention 在高斯混合数据上的无限 prompt 极限，证明其可通过基于梯度的方法表示并学习监督分类与去噪等统计任务的最优解。