跳到正文
热点事件持续更新

SMat-Attention:结构化长上下文序列建模

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

2026-09-30,arXiv 发表一手研究 SMat-Attention,提出具有结构化长程路由的因果掩码族,将 VC 维数 d 作为控制访问模式复杂度、预填充成本和解码内存的显式旋钮:d=1 恢复标准因果掩码,增大 d 允许更丰富的子集路由模式;硬路由构造的预填充复杂度为 O(T^{2-3/d}+T),固定时间窗流式解码每 token 使用 O(T^{1-1/d}) 缓存状态实现常数时间。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. arXiv · Artificial Intelligence
    SMat-Attention:结构化长上下文序列建模

    SMat-Attention 通过引入具有结构化长程路由的因果掩码族,将 VC 维数 d 作为控制访问模式复杂度、预填充成本和解码内存的显式旋钮。d=1 恢复标准因果掩码,增大 d 允许更丰富的子集路由模式;硬路由构造的预填充复杂度为 O(T^{2-3/d}+T),固定时间窗流式解码每 token 使用 O(T^{1-1/d}) 缓存状态实现常数时间。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。