跳到正文
原文
Weaviate Blog·· 13 天前AI 评分46

Weaviate 1.39 引入 4-bit Rotational Quantization

4-bit Rotational Quantization

AI 导读

Weaviate 1.39 扩展 Rotational Quantization(RQ),新增 4-bit 支持并带来多项量化改进。8-bit RQ 编码速度最高提升 3.8×,4-bit RQ 在保持相似召回率的同时堆内存减少 45%。

来源:Weaviate Blog · weaviate.io