vector-index-tuning

何时使用

当你构建 RAG 系统、优化向量搜索性能、或选择向量索引方案时触发。

核心决策

索引选型

方案	召回率	延迟	内存	场景
HNSW	高	低	高	<1M 向量，低延迟优先
IVF-PQ	中	中	低	大规模，内存受限
Flat	最高	高	最高	<100K，精度优先

HNSW 调优

• M（连接数）：16-64，越大召回越高但内存越大
• efConstruction（构建搜索宽度）：128-256，影响索引构建时间
• efSearch（查询搜索宽度）：等于 top-k 到 2*M，运行时可调
• 经验：M=32, efConstruction=200 适合大多数场景

量化

• PQ（Product Quantization）：压缩 8-32 倍，召回损失 2-5%
• SQ（Scalar Quantization）：压缩 4 倍，召回损失 <1%
• 组合：IVF + PQ 适合超大规模

RAG 调优

• top-k 先取 20-50，用 reranker 精排到 5-10
• 嵌入模型和查询用同一模型
• 分块策略：512-1024 token，重叠 10-20%