arXiv · Computation and Language· Zhongping Ji·· 3 小时前AI 评分22
HySPE：通过辛对偶剪切实现位置编码
HySPE: Positional Encoding via Symplectic Dual Shears
AI 导读
论文提出 HySPE（Hyperbolic Symplectic Positional Encoding），用双剪切的双曲分支替代 RoPE 的紧致椭圆分支，在保持与缓存 RoPE 相当的前向延迟（RTX 4090 上 7.21 ms）的同时获得长度无关的数值界。
来源：arXiv · Computation and Language · arxiv.org