大模型-modelscope下载和使用chatglm3-6b模型

前言

由于官方chatglm3-6b大模型文件下载比较慢，找到国内modelscope代替方案

1.SDK下载

pip install modelscope

2.下载大模型文件

✅方法1:通过pip下载

1.安装 setuptools
在当前使用的 Python 环境中安装 setuptools

pip install setuptools

2.通过如下命令安装ModelScope

pip install modelscope

3.下载完整模型库
文件特别大，一定要通过 --local_dir 指定下载目录

modelscope download --model ZhipuAI/chatglm3-6b  --local_dir  'path/to/dir'

其他
下载单个文件到指定本地文件夹（以下载README.md到当前路径下“dir”目录为例）

modelscope download --model ZhipuAI/chatglm3-6b README.md --local_dir ./dir

✅方法2:Git下载
1.请确保 lfs 已经被正确安装

git lfs install

2.拉取大模型文件

git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

如果您希望跳过 lfs 大文件下载，可以使用如下命令

GIT_LFS_SKIP_SMUDGE=1 git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

✅方法3： SDK下载

#模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('ZhipuAI/chatglm3-6b')