跳到主要内容

公共模型下载指南

潞晨云为用户提供了一些常用的公共模型,存放在每个集群内部的存储中。本指南介绍如何在潞晨云平台通过内网下载公共模型,相比直接从 Hugging Face 下载,从内网下载模型的速度可提升数倍至数十倍。

1. 安装 MinIO 客户端

curl --progress-bar -L https://dl.min.io/aistor/mc/release/linux-amd64/mc --create-dirs -o /usr/bin/mc
chmod 777 /usr/bin/mc

2. 登录 MinIO 存储

mc alias set s3 http://minio:9000 hf_user Luchen_hf_user_1531 --api s3v4

3. 查看可用模型

mc ls s3/hf-model/

此命令可列出存储中可用的模型列表。

目前已支持 百川 M2 医疗模型,参考 Hugging Face 页面:Baichuan-M2-32B

4. 下载模型

将模型下载到本地指定路径,示例命令如下:

# 下载指定模型到本地
mc cp -r s3/hf-model/$model_name/ /root/$storage_name

参数说明:

  • $model_name:要下载的模型名称
  • $storage_name:本地存储目录

示例:

# 下载百川 M2 模型到 /root/fast-disk
mc cp -r s3/hf-model/baichuan-inc/Baichuan-M2-32B/ /root/fast-disk