先说结论

说明如何从Hugging Face、ModelScope和模型发布者官方仓库获取权重,核对许可证、固定版本并安全转移到内网环境。

推荐链接

从正式来源开始

外部仓库可能更新。下载前请重新查看当前模型卡、文件列表和许可证。

命令参考

先查看文件与总大小

hf download Qwen/Qwen3-8B --dry-run

确认后下载到指定目录

hf download Qwen/Qwen3-8B --local-dir ./models/qwen3-8b

命令只演示最小路径。正式环境还要固定版本、限制权限并记录变更。

01

先确认发布者身份

同名模型可能有官方原始权重、社区量化、微调、合并和转换版本。打开仓库后先检查组织是否由发布者维护、模型卡是否指向正式网站、许可证是否存在,以及文件历史是否能追溯。下载量和点赞不能代替这些判断。

社区量化可能适合测试,但必须另外核对它基于哪个Commit、采用什么量化方法、是否改动聊天模板和是否继承原模型许可证。

02

下载前保存六项信息

  • 仓库完整名称与发布组织。
  • 模型家族、参数量、Base或Instruct类型。
  • 许可证、可接受使用规则和是否需要审批。
  • Commit ID、Tag或明确发布日期。
  • 文件格式、总大小与预计存储空间。
  • 推荐的Transformers、vLLM、llama.cpp或其他运行版本。
03

先预览文件,再开始传输

Hugging Face命令行工具支持先执行dry-run查看需要下载的文件和总大小。确认磁盘、网络、代理与访问令牌后,再把固定版本下载到指定目录。大型仓库可能从独立存储域名重定向,企业网络需要按照官方说明配置允许访问的地址。

在中国网络环境中也可以核对ModelScope官方页面。两个平台出现同名仓库时,要确认发布组织、模型卡、文件大小与版本是否一致,不能默认镜像内容完全同步。

04

为什么优先考虑safetensors

传统pickle文件在加载时可能执行代码,safetensors的设计重点之一是避免这类风险。即使使用安全权重格式,模型仓库中的自定义代码、依赖包和容器仍然需要单独审查。

正式环境不应直接运行来源不明的安装脚本,也不应把长期访问令牌写进命令记录或配置仓库。使用最小权限的只读凭据,并在传输后核对文件清单与哈希。

05

转移到内网后的管理

  • 建立只读模型仓库,应用不能自行覆盖正式权重。
  • 模型、Tokenizer、聊天模板、量化与推理镜像作为一套版本保存。
  • 保留原始模型卡、许可证、下载时间和批准记录。
  • 新版本先在隔离环境回归,再通过变更流程进入正式服务。
  • 不再允许使用的模型要撤销接口、清理副本并保留审计记录。

参考资料

  1. Hugging Face模型下载https://huggingface.co/docs/huggingface_hub/en/guides/download
  2. ModelScope模型下载https://modelscope.cn/docs/models/download
  3. Hugging Face Hub安全https://huggingface.co/docs/hub/security
  4. safetensors格式说明https://huggingface.co/docs/diffusers/main/using-diffusers/using_safetensors

模型、许可证与软件会更新,执行前请以官方页面的当前说明为准。

配置数字与官方资料有变化?

请通过内容更正页联系我们,并附上对应官方页面。