基于text- generation- webUI工具创建大模型webUI交互

常用的比较流行的用于大型语言模型 Web UI 的工具如下,它们都具有不错的兼容性和扩展性:

  1. Text-generation-webui: 这是一个功能非常强大的 Gradio Web UI,支持多种模型后端,包括 Transformers、llama.cpp,它具有丰富的扩展功能,如语音输入/输出、翻译。
  2. LLaMA-Factory: 这是一个专注于高效微调和部署大型语言模型的工具,但也提供了 Web UI 界面。它支持多种模型,包括 Qwen 系列模型,并且具有便捷的微调和部署功能

下面以Text-generation-webUI 为例,感受一下web UI 创建的步骤

  • Step1: install or check python/pip/Git package

进入Terminal输入下面指令:

python3 --version                  # 是否会返回python 3.X,表示已经安

pip3 --version                    # 是否会返回pip 25.0.1,表示已经安装

pip3 install -U pip               # 更新pip

pip3 install -U setuptools        # 更新setuptools

sudo apt-get install python3-pip   # Linux系统

brew install python3              # Mac系统

choco install python              # Windows系统

git –-version       # git 是否安装 git version 2.17.1

sudo apt-get install git        # Linux系统

brew install git                # Mac系统

choco install git               # Windows系统

Python手动下载安装:Welcome to Python.org

Git Windows手动下载&#x

你可能感兴趣的:(AI大模型,语言模型,ai,python,pip)