跳到正文
热点事件持续更新

循环Transformer共享记忆提升质量并降低内存

1 篇报道1 个报道来源16 小时前 更新

先了解这件事

AI 综述

研究者提出在循环(Looped)Transformer 中使用共享记忆:预训练共享内存的循环语言模型,仅在第一次递归时写入 KV cache,后续递归读取该缓存并保留短窗口。该设计旨在提升模型质量并降低内存占用。报道来自 arXiv Machine Learning Theory(一手),时间为 2026-10-05 12:00。目前仅见此一篇报道,未见与其他报道在数字、时间或说法上的矛盾,也无更早报道可对比。

AI 根据报道生成 · 15 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv · Machine Learning Theory
    共享内存在 Looped Transformer 中的惊人效果

    研究者预训练了共享内存的循环语言模型:仅第一次递归写入 KV cache,后续递归读取它并保留短窗口。

本事件热度走势

当前热度 7·可比范围峰值 10(10月5日 13:00)·近 24 小时可比范围变化 –

02.557.51010月5日13:0010月5日18:0010月5日22:0010月6日03:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。