大模型开发和微调工具Llama-Factory-->WebUI

WebUI

LLaMA-Factory 支持通过 WebUI 零代码微调大模型。

通过如下指令进入 WebUI

llamafactory-cli webui

# 如果是国内,
# USE_MODELSCOPE_HUB 设为 1,表示模型从 ModelScope 魔搭社区下载。
# 避免从 HuggingFace 下载模型导致网速不畅
USE_MODELSCOPE_HUB=1 llamafactory-cli webui

1.训练

大模型开发和微调工具Llama-Factory-->WebUI_第1张图片

在模型开始训练之前,需要指定参数有:

  1. 模型名称及路径
  2. 训练阶段
  3. 微调方法
  4. 训练数据集
  5. 学习率、训练轮数等训练参数
  6. 微调参数等其他参数
  7. 输出目录及其配置目录

随后,即可训练

关于断点重连:适配器断点保存于 output_dir 目录下,请指定 适配器路径 以加载断点继续训练。

如果您需要使用自定义数据集,请在 data/data_info.json 中添加自定义数据集描述并确保 数据集格式 正确,否则可能会导致训练

你可能感兴趣的:(llama)