Tuning

ChatGPT训练流程

图源：StateofGPT-MicrosoftBuild笔者翻译上图如下：阶段子阶段目标备注Pre-Training--------语言建模InstructionFinetuning---------让模型能够理解自然语言指令
从流域到海域·2023-07-14 11:41

【LLM】Prompt tuning大模型微调实战

文章目录一、Propmttuning1.peft库中的tuning2.prompttuning怎么搞二、Prompttuning代码实战1.tuning训练2.模型推理比较3.其他tuning技术Reference
山顶夕景·2023-07-14 02:22

ChatGPT的Fine-tuning是什么？

fine-tuning基本概念Fine-tuning（微调）是指在预训练过的模型基础上，使用特定任务的数据进行进一步的训练，以使模型更好地适应该任务。
氢气氧气氮气·2023-07-14 00:14

BERT论文解读及实现（一）

Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding1论文解读1.1模型概览Therearetwostepsinourframework:pre-trainingandfine-tuning.bert
晚点吧·2023-07-13 21:20

Prototype Completion for Few-Shot Learning

基于预训练的方法有效地解决了通过预训练一个特征提取器，然后通过最近的基于质心的元学习对其进行微调(pretraining+fine-tuning)。然而,结果表明微调步骤使边际改进。
欧阳AI锋·2023-07-13 20:48

大模型高效微调综述上：Adapter Tuning、AdaMix、PET、Prefix-Tuning、Prompt Tuning、P-tuning、P-tuning v2

1.1.2注意力机制1.1.3注意力在Transformer中的应用1.2BERT二、`PEFT`综述2.1PEFT的分类2.2不同PEFT方法的对比三、Additivemethods3.1AdapterTuning3.1.1Adapters
神洛华·2023-06-24 08:05

大模型微调实践遗留问题1

P-tuning和Prompttuning的区别和联系？P-Tuning，仅对大模型的Embedding加入新的参数。P-Tuning-V2，将大模型的Embedding和每一层前都加上新的参数。
YingJingh·2023-06-24 05:10

大模型微调实践

文章目录1.打印全部训练参数2.加载模型3.设置可训练参数3.1Freezesetting3.2Lorasetting3.3ptuningsetting4.加载数据集5.模型训练参考源：https://
YingJingh·2023-06-24 05:10

RuntimeError: CUDA Error: no kernel image is available for execution on the device

解决过程如下：配置好服务器与python环境后，发现ChatGLM-6b模型可运行，但是ChatGLM-6b-int4模型运行不了，因此，在进行ptuning的时候，将train.sh中的最后一行quantization_bit4
孔雀竹鱼·2023-06-24 01:44

浅尝Transformer和LLM

GPTPre-trainingFine-TuningTransformer工具开源库特点LLM系列推理服务大语言模型势不可挡啊。哲学上来说，语言就是我们的一切，语言所不能到达的地方我们也不能达到。
Miha_Singh·2023-06-23 13:58

past_key_values在P-TuningV2中的巧用

背景目前HuggingFace发布了关于微调LLMs的方法包——Parameter-EfficientFine-Tuning(PEFT)，其中包含下面6种方法：LoRA:LORA:LOW-RANKADAPTATIONOFLARGELANGUAGEMODELSPrefixTuning
Charon_HN·2023-06-22 21:18

第4章: Autoregressive Language Models之GPT-1、2、3解析及GPT源码实现

1，Task-aware的人工智能Languagemodel+Pre-training+Fine-tuning时代2，Decoder-OnlyStack数学原理及架构解析3，训练材料标注：neutral
StarSpaceNLP667·2023-06-22 21:48

Transformer导论之GPT

在实际应用时，GPT可以通过微调（fine-tuning）的方式，根据具体任务的需求，对预训练的模型进行微小的调整，从而适应不同的
宫本文藏·2023-06-22 20:55

QLORA: Efficient Finetuning of Quantized LLMs大模型论文讲解

主要是为了更好地理解Qlora如何利用量化较少训练内存，学习永无止境，紧随其后；QLORA首次提出了量化4bit而没有任何性能的损失，作者提出了一种新的高精度技术来量化预训练模型参数到4bit，并且添加了一个小的可学习的低秩适配权重，他的参数更新通过反向传播梯度量化的权重；为LLM的每一层添加了少量的可训练参数（适配器），并冻结了所有原始参数。这样对于微调，只需要更新适配器权重，这可以显著减少内存
chenmingwei000·2023-06-22 11:02

ChatGLM-6B模型微调实战（以 ADGEN (广告生成) 数据集为例，序列长度达 2048）

kingglory/ChatGLM-6B项目地址1介绍对于ChatGLM-6B模型基于P-Tuningv2的微调。
桂花很香,旭很美·2023-06-22 07:20

深度学习一点通：chatGPT 用到的RLHF流程，和 fine tuning有何区别？

想知道RLHF方法与微调方法之间的区别是什么？微调实际上是RLHF方法的第一步。继续阅读。利用来自人类反馈的强化学习（RLHF）已被证明是一种有效的方法，可以使基础模型与人类偏好相一致。这种技术涉及对模型进行微调，在最近人工智能的进展中发挥了关键作用，如OpenAI的ChatGPT模型和Anthropic的Claude模型的成功所示。RLHF的实施在模型的可用性和性能方面带来了微妙但重要的改进。这
robot_learner·2023-06-22 07:39

Linux 增加TCP吞吐量

参考文档:https://www.rabbitmq.com/networking.html#tuning-for-large-number-of-connectionshttps://fasterdata.es.net
唯米天空·2023-06-21 15:44

零样本参考图像分割 ReCLIP: A Strong Zero-Shot Baseline for Referring Expression Comprehension 论文阅读笔记

AStrongZero-ShotBaselineforReferringExpressionComprehension论文阅读笔记一、Abstract二、引言三、背景3.1问题描述3.2预训练的模型架构3.3ColorfulPromptTuning
乄洛尘·2023-06-20 16:32

大模型高效调参—PEFT库（ Parameter-Efficient Fine-Tuning）

介绍在面对特定的下游任务时，如果进行FullFineTuning（即对预训练模型中的所有参数都进行微调），太过低效；而如果采用固定预训练模型的某些层，只微调接近下游任务的那几层参数，又难以达到较好的效果
桂花很香,旭很美·2023-06-20 12:59

通俗易懂的LLM

目录前言一、Tuning1、Fine-Tuning（微调）2、Prompt-Tuning（提示微调）2.1In-contextlearning（上下文学习）2.2Pattern-Verbalizer-Pair
长竹Danko·2023-06-20 12:58

大模型-DeltaTuning：①增量式（原模型参数不变，插入可微调参数层）、②指定式（原模型参数冻结一部分参数，微调一部分参数）、③重参数化式（将原模型参数层改造，比如插入低秩）

TowardsaUnifiedViewofParameter-EfficientTransferLearning》GitHub-thunlp/PromptPapers:Must-readpapersonprompt-basedtuningforpre-trainedlanguagemodels.GitHub-thunlp
u013250861·2023-06-20 12:28

大模型-微调技术：PEFT库

project/peft/目前peft0.3.0code地址：GitHub-huggingface/peft:PEFT:State-of-the-artParameter-EfficientFine-Tuning
u013250861·2023-06-20 12:28

大模型-DeltaTuning-重参数式：LoRA（Low-Rank Adaptation）

但随着模型规模的不断扩大，微调模型的所有参数（所谓fullfine-tuning）的可行性变得越来越低。以GPT-3的175B参数为例，每增加一个新领域就需要完整微调一个新模型，代价和成本很高。
u013250861·2023-06-20 12:28

让天下没有难Tuning的大模型：PEFT技术简介

©作者|风飏单位|阿里巴巴研究方向|AIOps/NLP来自|PaperWeekly进NLP群—>加入NLP交流群最近，深度学习的研究中出现了许多大型预训练模型，例如GPT-3、BERT等，这些模型可以在多种自然语言处理任务中取得优异的性能表现。而其中，ChatGPT模型因为在对话生成方面的表现而备受瞩目，成为了自然语言处理领域的热门研究方向。然而，这些大型预训练模型的训练成本非常高昂，需要庞大的计
zenRRan·2023-06-20 12:27

让天下没有难Tuning的大模型-PEFT（参数效率微调）技术简介

singleDoc#《让天下没有难Tuning的大模型-PEFT技术简介》最近，深度学习的研究中出现了许多大型预训练模型，例如GPT-3、BERT等，这些模型可以在多种自然语言处理任务中取得优异的性能表现
AI生成曾小健·2023-06-20 12:25

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

总体感觉其实并不是特别理想，原始Alpaca-lora模型对中文支持并不好，用52k的中文指令集对模型进行fine-tuning之后，效果依然达不到网上说的媲美GPT-3.5的推理效果，验证了那句话：“
·2023-06-20 10:24

[Arxiv 2023] SpecInfer:Accelerating LLM Serving with Speculative Inference + Token Tree Verification

ContentsIntroductionMethodSpeculativeInferenceCollectiveBoost-TuningLearning-basedSpeculativeSchedulerTokenTreeVerifierTreeAttentionVerificationOptimizationsEvaluationReferencesIntroductionLLMs
连理o·2023-06-20 09:43

ChatGPT的预训练模型是基于什么原理和方法？

ChatGPT是一个基于自然语言处理的对话生成模型，采用了预训练-微调（Pre-trainingandFine-tuning）的思想。
心似浮云️·2023-06-20 09:53

【论文精读ACL_2021】Prefix-Tuning: Optimizing Continuous Prompts for Generation

【论文精读ACL_2021】Prefix-Tuning:OptimizingContinuousPromptsforGeneration0、前言Abstract1Introduction2RelatedWork2.1Fine-tuningfornaturallanguagegeneration
旋转的油纸伞·2023-06-19 21:49

【论文精读】InstructUIE: Multi-task Instruction Tuning for Unified Information Extraction

InstructUIE:Multi-taskInstructionTuningforUnifiedInformationExtraction前言Abstract1.Introduction2.Methodology2.1InstructionTuningBackground2.2Framework2.2.1TaskSchemaTaskInstructionOptionsTextOutput2.2
HERODING77·2023-06-19 07:03

【论文精读】HugNLP: A Unified and Comprehensive Library for Natural Language Processing

AUnifiedandComprehensiveLibraryforNaturalLanguageProcessing前言Abstract1.Introduction2.Background2.1Pre-trainedLanguageModels2.2Fine-tuningforPLMs3
HERODING77·2023-06-19 07:32

大模型微调方法调研

文章目录Freeze方法PT方法Lora方法AdaloraPromptTuningAdapterTuningPrefixtuning遗留问题Freeze方法对原始模型部分参数进行冻结操作，仅训练部分参数
YingJingh·2023-06-19 04:23

GPT与GPT-2

GPT与GPT-2GPT-2与GPT一样，都使用的是单向语言模型一、GPTGPT的底层架构是transformer，是由pre-training和fine-tuning两部分构成的。
还卿一钵无情泪·2023-06-18 20:02

【AIGC】16、Vision-Language 模型在视觉任务中的调研

文章目录一、简介二、基础知识2.1视觉任务的训练策略2.2VLM基础2.2.1网络结构2.2.2预训练目标函数2.2.3评估和下游任务2.3数据集三、迁移学习3.1使用prompttuning实现迁移学习
呆呆的猫·2023-06-18 12:24

2022 年 4 月 10篇 ML 研究论文推荐

1、TensorProgramsV:TuningLargeNeuralNe
·2023-06-18 10:47

多模态大模型综述: LLaVA, MiniGPT4

文章目录LLaVA一.简介1.1.摘要1.2.引言二.相关工作LLaVA一.简介题目:VisualInstructionTuning机构：微软论文:https://arxiv.org/pdf/2304.08485
猴猴猪猪·2023-06-18 10:40

【BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 论文略读】

INFORMATIONAbstract1Introduction2RelatedWork2.1UnsupervisedFeature-basedApproaches2.2UnsupervisedFine-tuningApproaches2.3TransferLearningfromSupe
小白*进阶ing·2023-06-18 07:14

【Soft-prompt Tuning for Large Language Models to Evaluate Bias 论文略读】

Soft-promptTuningforLargeLanguageModelstoEvaluateBias论文略读INFORMATIONAbstract1Introduction2Relatedwork3Methodology3.1Experimentalsetup4Results5Discussion
小白*进阶ing·2023-06-18 07:11

大语言模型(LLMs)综合调研

目录简介现象涌现能力关键技术相关资源开源模型或API数据集开源库预训练数据选择数据预处理模型架构模型训练模型微调指令微调InstructionTuning人机对齐AlignmentTuning下游任务上下文学习
dra_p0p3n·2023-06-17 17:37

论文阅读：Towards a Unified View of Parameter-Efficient Transfer Learning对参数高效迁移学习的统一看法

2021年开始有越来越多的人关注这一方向并有不同的方法被提出，代表工作有prefixtuning,P-tuning,prompttuning,bitfit,LoRA等。本文中
若年封尘·2023-06-17 17:45

Prefix-Tuning: Optimizing Continuous Prompts for Generation

《Prefix-Tuning:OptimizingContinuousPromptsforGeneration》阅读笔记论文题目：Prefix-Tuning:OptimizingContinuousPromptsforGeneration
AI生成曾小健·2023-06-17 13:19

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

总体感觉其实并不是特别理想，原始Alpaca-lora模型对中文支持并不好，用52k的中文指令集对模型进行fine-tuning之后，效果依然达不到网上说的媲美GPT-3.5的推理效果，验证了那句话：“
京东云技术团队·2023-06-17 11:18

Adapter Tuning：详细解读Parameter-Efficient Transfer Learning for NLP

DiffusionModels专栏文章汇总：入门与实战前言：大语言模型实在是太火了，各种技术日新月异，研究diffusionmodels的从LLMs中找一些研究灵感已经是基操了。当模型比较小的时候，微调全部参数还是可以的。但是现在的大预训练模型时代，微调所有参数不仅效果堪忧，对资源的消耗也非常恐怖，所以这就是做有效微调的初衷。为了研究清楚如何进行有效的大模型微调，我打算沿着AdapterTunin
沉迷单车的追风少年·2023-06-17 07:38

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2

论文笔记|谷歌SoftPromptLearningptuning->Prefix-Tuning->softpromt->ptuningv2"ThePowerofScaleforParameter-EfficientPromptTuning"EMNLP2021GoogleBrain
AI生成曾小健·2023-06-17 06:42

大模型入门（六）—— RLHF微调大模型

一、RLHF微调三阶段参考：https://huggingface.co/blog/rlhf1）使用监督数据微调语言模型，和fine-tuning一致。
柴神·2023-06-16 18:52

冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning

这一章我们介绍在下游任务微调中固定LM参数，只微调Prompt的相关模型。这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替代品。和前两章微调LM和全部冻结的prompt模板相比，微调Prompt范式最大的区别就是prompt模板都是连续型（Embedding），而非和Token对应的离散型模板。核心在于我们并不关心prompt本身是否是自然语言，只关心prom
AI生成曾小健·2023-06-16 15:45

陈丹琦团队提出低内存高效零阶优化器MeZO，单卡A100可训练300亿参数模型

本文旨在介绍一种用于fine-tuning语言模型（LM）的低内存优化器——MeZO，内存减少多达12倍。使用单个A100800GGPU，MeZO可以训练一个300亿参数的模型。
zenRRan·2023-06-16 14:38

【MeZO】《Fine-Tuning Language Models with Just Forward Passes》译读笔记

《Fine-TuningLanguageModelswithJustForwardPasses》MeZO是一种内存高效的零阶优化器，它可以用于微调大规模的语言模型，而不需要计算梯度。
songyuc·2023-06-16 13:37

Collections源码

java集合框架中的一个工具类，主要用于Collectiont提供的通用算法，比如：排序(sort)、二分查找(binarySearch)、洗牌(shuffle)、旋转(rotate)常量&变量/**Tuningparametersforalgorithms-ManyoftheListalgorithmshave
Dongguo丶·2023-06-16 09:17

从0到1复现ChatGLM的p-tuning和lora 微调

目录1、基础环境配置2、临时更改当前环境3、安装chatglm的使用环境1.安装Python3.82.安装各种包4、跑通原本的chatglm：5、p-tuning微调：6、lora微调1、基础环境配置下载
samoyan·2023-06-16 07:51
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他