arXiv · Computer Vision· Elad Dror Cohen, Ofir Gordon, Lior Dikstein, Idan Achituve, Hai Victor Habi·· 16 小时前AI 评分23
VisionMX:解锁视觉模型的微缩放后训练量化
VisionMX: Unlocking Microscaling Post-Training Quantization for Vision Models
AI 导读
VisionMX 是一种面向视觉模型的后训练 MX 量化方法,通过优化有界权重舍入并对激活施加可折叠仿射校正来提升精度。研究识别出直接转换的三类误差来源:块级缩放表示、小型卷积权重张量与非均匀元素网格的对齐不佳,以及非负激活未充分利用有符号编码。在图像分类、目标检测、语义分割和低光图像增强任务上,VisionMX 优于直接转换及所评估的后训练量化基线,在对 MX 转换最敏感的架构上恢复幅度最大。
来源:arXiv · Computer Vision · arxiv.org