Skip to content
arXiv · Machine Learning Theory· Donghyun Lee, Arkapravo Ghosh, Varun Manjunath, Bumjoon Kyle Rhee, Hyunho Kook, Shiting Xiao, Youngeun Kim, Priyadarshini Panda·· 4 hr agoAI score31

SoloQ:面向扩散语言模型的免校准量化

SoloQ: Calibration-Free Quantization for Diffusion Language Models

AI brief

SoloQ 是一种面向扩散大语言模型(dLLM)的免校准量化框架,通过将权重与激活映射到归一化旋转基实现数据无关量化,并结合结构化 K-RPBH 旋转与轻量重缩放校正。

Source: arXiv · Machine Learning Theory · arxiv.org