Embedding模型怎么选：Qwen3 Embedding与BGE-M3配置参考

Embedding不是生成模型

Embedding把问题和文档片段转换成向量，用于搜索、聚类和相似度比较。它不会直接撰写最终答案，也不能判断候选段落是否真正支持某个复杂结论。知识库通常先用Embedding快速召回，再由Reranker和生成模型继续处理。

选择时要看语言、行业术语、输入长度、向量维度、批量吞吐和部署框架。模型参数更大可能提高部分任务效果，也会增加索引时间、显存和查询延迟。

两个常见家族

• Qwen3 Embedding：官方提供0.6B、4B和8B等规格，支持多语言、指令和可调整向量维度。
• BGE-M3：面向多语言与长文本，可用于Dense、Sparse及多向量检索研究。
• 小规格适合先建立基线和CPU或单卡服务，大规格只有在召回改善明确时才值得增加成本。
• 旧索引不能在更换模型后直接复用，文档与查询必须使用同一Embedding重新计算。

配置参考

0.6B级Embedding通常可以在CPU或较小GPU上运行，适合中小知识库和低并发验证；4B与8B需要更多显存，但批量编码与查询服务仍应分别测试。BGE-M3官方权重约为0.5B量级，适合作为多语言检索基线之一。

向量数据库容量还取决于文档片段数量、向量维度、数值精度、索引类型和副本数量。购买GPU之前，应先用代表性资料测量每天新增文档量、峰值查询和重建索引所需时间。

建立企业检索测试集

• 问题要覆盖正式名称、简称、错别字、行业缩写和跨语言表达。
• 为每个问题标出应该召回和不应该召回的文档。
• 分别观察Top 5、Top 10命中率与无相关资料时的表现。
• 检查过期版本、相似产品和权限受限文档是否被错误召回。
• 在同一切分和索引条件下比较候选模型。

不要忽视检索之外的问题

Embedding没有命中时，原因可能是文档解析失败、切分破坏语义、查询太短、元数据过滤错误或资料本身缺失。更换更大的模型之前先定位失败环节。

即使正确文档已被召回，最终回答仍可能引用错误段落或过度推断。完整评测应同时覆盖召回、重排、答案和引用，而不是把最终正确率全部归因于Embedding。