Skip to content
arXiv · Statistics Machine Learning· Hong Ha Le, Jackie Lok, Atsushi Nitanda, Yan Shuo Tan·· 4 hr agoAI score18

上下文中的决策树桩阈值学习:Softmax Attention 的动力学

Learning Decision-Stump Thresholds in Context: Dynamics of Softmax Attention

AI brief

研究在固定特征与不等式方向的二参数 softmax-attention 模型中,用基于梯度的预训练学习未知边界附近的决策阈值。预训练使用带标签上下文及其真实阈值,新阈值仅由上下文推断;大分辨率初始化下,对 m 个任务各 n 个样本的常步长梯度下降得到冻结估计器,误差为 Õ((m∧n)^−1+N^−1)。

Source: arXiv · Statistics Machine Learning · arxiv.org