[玩转AIGC]LLaMA2之如何微调模型

目录

  • 1、下载训练脚本
  • 2、 下载模型
    • 2.1、申请下载权限
    • 2.2、模型下载
  • 3、模型微调
    • 3.1、使用单卡微调
    • 3.2、使用多卡训练:

1、下载训练脚本

首先我们从github上下载Llama 2的微调代码:GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model

执行命令:

git clone https://github.com/facebookresearch/llama-recipes
cd llama-recipes

下载完成之后,安装对应环境,执行命令:

pip install -r requirements.txt

2、 下载模型

在这里我补充一下模型下载权限的申请

2.1、申请下载权限

需先在Meta上申请权限(国家选中国不行,要选其他国家)
https://ai.meta.com/resources/models-and-libraries/llama-downloads/

申请的邮箱必须是跟huggingface注册邮箱一致

申请完权限之后你会收到邮件:
[玩转AIGC]LLaMA2之如何微调模型_第1张图片
然后再去HuggingFace上submit权限申请,连接在下面
https://huggingface.co/meta-llama/Llama-2-7b-hf

打开后点击提交:
[玩转AIGC]LLaMA2之如何微调模型_第2张图片

提交后还要等待仓库作者的确认,请求将在 1-2 天内得到处理

实测大概一个小时,会有邮件通知已授权,邮件如下:
[玩转AIGC]LLaMA2之如何微调模型_第3张图片
然后回到HuggingFace

点击头像->setting->Access Tokens 里面获取tokens

[玩转AIGC]LLaMA2之如何微调模型_第4张图片
没有的话就自己创建一个token,也就是点击new token,再把创建的token复制下来

2.2、模型下载

有了权限就可以从HuggingFace上下载模型:https://huggingface.co/meta-llama

打开可看到模型有多个:

[玩转AIGC]LLaMA2之如何微调模型_第5张图片
这里我们选择:Llama-2-7b-hf

通过代码下载:

下面的your token就是要填从你自己的HuggingFace复制下来的token,根据上面的步骤走过来,你已经申请过权限了,所以token可用


import huggingface_hub

huggingface_hub.snapshot_download(
        "meta-llama/Llama-2-7b-hf",
        local_dir="./Llama-2-7b-hf",
        token="your token"
)

import huggingface_hub

huggingface_hub.snapshot_download(
        "meta-llama/Llama-2-7b-hf",
        local_dir="./Llama-2-7b-hf",
        token="**********************"
)

3、模型微调

3.1、使用单卡微调

#创建模型输出文件
mkdir output

# 使用单卡
export CUDA_VISIBLE_DEVICES=0

#开始训练
python llama_finetuning.py  --use_peft --peft_method lora --quantization --model_name Llama-2-7b-hf --output_dir output

3.2、使用多卡训练:

比如多GPU单节点


torchrun --nnodes 1 --nproc_per_node 4  examples/finetuning.py --enable_fsdp --use_peft --peft_method lora --model_name /path_of_model_folder/7B --fsdp_config.pure_bf16 --output_dir path/to/save/PEFT/model

你可能感兴趣的:(玩转AIGC,AIGC)