vLLM部署Qwen2.5-VL-7B-Instruct实战:从hf-mirror下载权重全流程

本文将重点演示如何从国内镜像站 https://hf-mirror.com 高效下载Qwen2.5-VL-7B-Instruct模型权重,并通过vLLM完成部署。以下为详细步骤:


Step 1. 通过hf-mirror下载权重文件

方法一:直接替换URL下载
原HuggingFace模型地址:
https://huggingface.co/Qwen/Qwen2.5-VL-7B-Instruct
替换域名后镜像站地址:
https://hf-mirror.com/Qwen/Qwen2.5-VL-7B-Instruct

# 使用git下载(需安装git-lfs)
git clone https://hf-mirror.com/Qwen/Qwen2.5-VL-7B-Instruct
cd Qwen2.5-VL-7B-Instruct
git lfs pull  

你可能感兴趣的:(人工智能,智能体及数字员工,人工智能)