公共模型下载指南
潞晨云为用户提供了一些常用的公共模型,存放在每个集群内部的存储中。本指南介绍如何在潞晨云平台通过内网下载公共模型,相比直接从 Hugging Face 下载,从内网下载模型的速度可提升数倍至数十倍。
1. 安装 MinIO 客户端
curl --progress-bar -L https://dl.min.io/aistor/mc/release/linux-amd64/mc --create-dirs -o /usr/bin/mc
chmod 777 /usr/bin/mc
2. 登录 MinIO 存储
mc alias set s3 http://minio:9000 hf_user Luchen_hf_user_1531 --api s3v4
3. 查看可用模型
mc ls s3/hf-model/
此命令可列出存储中可用的模型列表。
目前已支持 百川 M2 医疗模型,参考 Hugging Face 页面:Baichuan-M2-32B。
4. 下载模型
将模型下载到本地指定路径,示例命令如下:
# 下载指定模型到本地
mc cp -r s3/hf-model/$model_name/ /root/$storage_name
参数说明:
$model_name
:要下载的模型名称$storage_name
:本地存储目录
示例:
# 下载百川 M2 模型到 /root/fast-disk
mc cp -r s3/hf-model/baichuan-inc/Baichuan-M2-32B/ /root/fast-disk