arXiv · Machine Learning Theory· Guanhua Ding, Zi Wang, Ruichao Li, Jack Liu·· 4 hr agoAI score32
CurveTQ:基于曲率加权搜索的无旋转 LLM 权重 Trellis 量化
CurveTQ: Rotation-Free Trellis Quantization of LLM Weights via Curvature-Weighted Search
AI brief
CurveTQ 提出无旋转的 trellis 量化方案,把 Hessian 的 LDL 对角权重写入 Viterbi 分支度量,让搜索在编码块内跟随曲率,并用因子化尺度场、闭式分位数表和每块起始状态处理权重幅度与边际形状。
Source: arXiv · Machine Learning Theory · arxiv.org