跳到正文
原文
arXiv · Information Retrieval· Hyojung Han, Jongmin Kim, Seung-Hun Jeon·· 4 小时前AI 评分30

Quantize by Drift:面向文本嵌入模型的无标签混合精度训练后量化

Quantize by Drift: Label-Free Mixed-Precision Post-Training Quantization for Text Embedders

AI 导读

该论文提出 Quantize by Drift,用量化导致的表示漂移作为无标签敏感度信号,在硬性 packed-byte 预算下以单一加法分配完成文本嵌入模型的混合精度训练后量化,无需相关性标签与搜索。

来源:arXiv · Information Retrieval · arxiv.org