arXiv · Information Retrieval· Hyojung Han, Jongmin Kim, Seung-Hun Jeon·· 4 hr agoAI score30
Quantize by Drift：面向文本嵌入模型的无标签混合精度训练后量化
Quantize by Drift: Label-Free Mixed-Precision Post-Training Quantization for Text Embedders
AI brief
该论文提出 Quantize by Drift，用量化导致的表示漂移作为无标签敏感度信号，在硬性 packed-byte 预算下以单一加法分配完成文本嵌入模型的混合精度训练后量化，无需相关性标签与搜索。
Source: arXiv · Information Retrieval · arxiv.org