官方模型入口与配置参考

先选对任务，再下载模型

这里整理Qwen、DeepSeek、Llama、Embedding和Reranker家族。本站只链接正式仓库，不镜像权重，也不把参数规模当作唯一质量标准。

模型分工

一个知识库通常不只需要一种模型

生成模型负责组织答案，Embedding负责快速召回，Reranker负责把更相关的证据排到前面。

生成Qwen / DeepSeek / Llama

理解问题、使用检索资料并生成最终回答。

召回Embedding

从大量文档中快速找到可能相关的候选片段。

重排Reranker

逐条比较问题与候选内容，改善前列相关性。

模型家族

配置数字用于第一轮筛选，正式采购前仍需按模型版本、量化、上下文和并发实测。

先用真实任务淘汰不合适的模型，再在通过质量门槛的候选中比较成本与速度。参数更多、上下文更长或发布日期更新，都不能单独决定企业选型。

模型文件应从发布者正式入口获取，先查看模型卡和许可证，再用仓库工具按固定版本下载。本站提供入口与命令，不重新打包或托管模型权重。

Qwen家族覆盖通用生成、推理、多语言、代码和检索模型。企业应先按任务选择Instruct或专用模型，再根据权重大小、上下文和并发决定量化与硬件。

完整DeepSeek模型与R1蒸馏小模型不是同一硬件级别。普通单机项目更适合先验证7B或14B蒸馏版本，大型权重需要专门的多卡容量设计。

Llama家族生态广，但官方权重通常需要接受对应许可证与使用政策。小型文本模型适合边缘或单卡验证，70B和Llama 4大型MoE需要多卡规划。

Embedding决定哪些资料先被召回。应使用企业自己的查询与文档比较命中率、延迟和存储，而不是只根据公开榜单选择最大模型。

Reranker用更高计算成本逐条判断问题与候选片段的相关性，适合放在快速召回之后。它能改善排序，但不能弥补缺失资料或错误权限。

开始下载之前

保存发布组织、许可证、Commit、文件清单和运行版本；社区量化需要另外核对来源。