跳到正文
热点事件持续更新

二阶循环模型实现无限上下文窗口

1 篇报道1 个报道来源2 小时前 更新

先了解这件事

AI 综述

2026年10月9日,arXiv Machine Learning Theory 发布论文,提出一种二阶循环模型,用由偏微分方程支配的空间演化场替代传统神经元间通信,使结构化时空模式充当隐式高容量记忆。论文称该模型等价于结构化无限阶 RNN,当前状态显式依赖全部历史状态,以固定参数量实现有效无界感受野,并通过构造性条件保证边缘稳定、消除梯度消失与爆炸。在 long-horizon benchmarks 上,该架构以更少参数优于其他循环模型。目前进展为论文已公开,尚未见后续独立验证或应用报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv · Machine Learning Theory
    通过空间神经计算在循环架构中学习无限上下文窗口

    论文提出一种二阶循环模型,用由偏微分方程支配的空间演化场替代传统神经元间通信,使结构化时空模式充当隐式高容量记忆。该模型等价于结构化无限阶 RNN,当前状态显式依赖全部历史状态,以固定参数量实现有效无界感受野,并通过构造性条件保证边缘稳定、消除梯度消失与爆炸。在 long-horizon benchmarks 上,该架构以更少参数优于其他循环模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。