Weaviate Blog·· 13 天前AI 评分46
Weaviate 1.39 引入 4-bit Rotational Quantization
4-bit Rotational Quantization
AI 导读
Weaviate 1.39 扩展 Rotational Quantization(RQ),新增 4-bit 支持并带来多项量化改进。8-bit RQ 编码速度最高提升 3.8×,4-bit RQ 在保持相似召回率的同时堆内存减少 45%。
来源:Weaviate Blog · weaviate.io