论文:上下文中的决策树桩阈值学习与Softmax注意力动力学
Get the story
2026年10月7日,arXiv(Statistics Machine Learning,一手来源)发表论文《上下文中的决策树桩阈值学习:Softmax Attention 的动力学》。研究在固定特征与不等式方向的二参数 softmax-attention 模型中,用基于梯度的预训练学习未知边界附近的决策阈值。预训练使用带标签上下文及其真实阈值,新阈值仅由上下文推断。论文称,在大分辨率初始化下,对 m 个任务各 n 个样本的常步长梯度下降得到冻结估计器,误差为 Õ((m∧n)^−1+N^−1)。目前仅有这一篇报道,未见后续验证或同行评议信息。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Statistics Machine Learning上下文中的决策树桩阈值学习:Softmax Attention 的动力学
研究在固定特征与不等式方向的二参数 softmax-attention 模型中,用基于梯度的预训练学习未知边界附近的决策阈值。预训练使用带标签上下文及其真实阈值,新阈值仅由上下文推断;大分辨率初始化下,对 m 个任务各 n 个样本的常步长梯度下降得到冻结估计器,误差为 Õ((m∧n)^−1+N^−1)。
Heat trend
Current heat 9·Comparable peak 10(Oct 7)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.