DB-GPT_0.5.10安装__部署Qwen2-72b模型（Ubuntu）——报错记录

官网地址在这里——源码部署 (yuque.com)，英文地址——Source Code Deployment | DB-GPT (dbgpt.site)

官网给了三种部署方式：源码部署、Docker部署、Docker-Compose部署，这里我选择的部署方式是源码部署，Docker部署的教程我感觉比较简陋，还是使用源码部署更为稳妥些。不过经过自己的尝试发现，DB-GPT官网给的部署教程属实不太友好，关于配置文件env里各条配置规则的介绍实在太少了，自己连接教程之外的其他llm的时候经常报错。

部署前提

在部署DB-BPT之前，最好确认已经在本地或者服务器上部署好了大语言模型以及对应的embedding模型！！

DB-GPT官网的教程里虽然给了一些embedding模型的安装方法，但是很可能与你部署的大语言模型对应不上导致启动失败！这里我使用的模型是’Qwen2-72b’，使用的系统是Ubuntu，模型是在xinference上部署的，在之后的配置信息中只要配置好url就可以访问了。

（1）下载源代码

git clone https://github.com/eosphoros-ai/DB-GPT.git

使用conda创建新的虚拟环境

conda create -n dbgpt_env python=3.10
conda activate dbgpt_env

这里注意，如果你使用的是非root用户，很可能没有对当前文件夹的读写权限，请先开启一下权限:

# 比如 sudo chmod -R u+rw /usr/local
sudo chmod -R u+rw '你的文件夹路径'

激活环境之后需要进入到 ‘DB-GPT’ 这个子文件夹（之后的命令基本都是在’DB-GPT’目录下执行），然后再执行下面的命令：

pip install -e ".[default]"

这句命令下载的python包会比较多，会消耗较长的时间，需要耐心等待。==如果刚才没有给当前系统用户开放读写权限，这一步安装的时候可能会失败。==包安装好之后，运行下面的命令复制一份配置文件，之后我们修改配置就是在这个 .env 文件里修改

cp .env.template  .env

（2）开始部署模型

首先确保安装了 git-lfs 服务，下面是不同系统对应的安装命令，直接运行命令就好：

● CentO