arXiv · Statistics Machine Learning· Simon Gabet (LMO), Etienne Boursier (LMO, CELESTE), Claire Boyer (LMO, IUF)·· 4 hr agoAI score27
高斯混合上的 Softmax Attention：能线性则线性，必须时则选择性
Softmax Attention on Gaussian Mixtures: Linear When It Can, Selective When It Must
AI brief
一篇 arXiv 论文研究 softmax attention 在高斯混合数据上的无限 prompt 极限，证明其可通过基于梯度的方法表示并学习监督分类与去噪等统计任务的最优解。
Source: arXiv · Statistics Machine Learning · arxiv.org