Tuning

DEC-DA：Deep Embedded Clustering with Data Augmentation

相关工作3.1DenoisingAutoencoder3.2DeepEmbeddedClustering4DEC_DA4.1AutoencoderwithDataAugmentation4.2FinetuningwithDataAugmentation4.3InstantiationandImplem
^_^linger^_^·2023-11-16 04:59

调用resnet50权重_TensorFlow 使用预训练模型 ResNet-50（续）

TensorFlow使用预训练模型ResNet-50介绍了使用tf.contrib.slim模块来简单导入TensorFlow预训练模型参数，进而使用slim.learning.train函数来finetuning
跳动的数字·2023-11-15 22:10

数据库方面的面试技巧，如何从建表方面展示自己能力

优化是个大话题，可以从索引，建表和SQL调优（SQLTuning）方面入手，这个我们来分析下建表时需要注意的优化点。我一般会问候选人，“你有没有
weixin_34390996·2023-11-15 00:14

caffe使用step by step：caffe框架下的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning
weixin_30699955·2023-11-14 17:38

Caffe使用step by step：caffe框架下的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning
Omni-Space·2023-11-14 16:32

Caffe框架的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning
LittleStudent12·2023-11-14 16:27

camera tuning 常识

#灵感#把收集的乱东西，归在一起。字体颜色标浅色的，是扩展内容，为了先简单了解，并不做很细致的阐述。（1）模组集成封装好的模组，一般由三个部分组成：镜头（lens）、感应器(sensor)和图像信号处理器构成。一般情况下，集成好的模组我们只看到外面的镜头、接口和封装壳，这种一般是固定焦距的。摄像头模组，全称CameraCompactModule，简写为CCM。CCM包含四⼤件：镜头(lens)、传
search7·2023-11-14 09:34

使用LLM-Tuning实现百川和清华ChatGLM的Lora微调

LLM-Tuning项目源码：GitHub-beyondguo/LLM-Tuning:TuningLLMswithnotears,sharingLLM-toolswithlove❤️.TuningLLMswithnotears
培根芝士·2023-11-14 04:21

小白入门isp之调试思路篇

如果接触过hisi调试，相信看完hisi的tuning文档，我这篇文章会显得很多余，所以还是借鉴hisi文档的思想来记录下。isptuning基本可以分成前期标定和调试。
云-天河·2023-11-14 01:55

FD-Align论文阅读

FD-Align:FeatureDiscriminationAlignmentforFine-tuningPre-TrainedModelsinFew-ShotLearning（NeurIPS2023）
B1CK·2023-11-13 14:50

Fine-Tuning Paradigm

Fine-TuningParadigm（微调范式）是指在深度学习模型中，训练一个已经预训练过的模型，通过对其进行微调以适应新的任务。
chunmiao3032·2023-11-13 03:18

基于飞浆NLP的BERT-finetuning新闻文本分类

目录1.数据预处理2.加载模型3.批训练4.准确率1.数据预处理导入所需库importnumpyasnpfrompaddle.ioimportDataLoader,TensorDatasetfrompaddlenlp.transformersimportBertForSequenceClassification,BertTokenizerfromsklearn.model_selectionimp
装B且挨揍の·2023-11-11 04:44

【论文阅读】AnimateDiff: Animate Your Personalized Text-to-Image Diffusion Modelswithout Specific Tuning

AnimateDiff:个性化文本到图像扩散模型的动画化，无需特定调整paper：https://arxiv.org/abs/2307.04725code：GitHub-guoyww/AnimateDiff:OfficialimplementationofAnimateDiff.目录1.摘要2.引言3.算法3.1Preliminaries3.2.PersonalizedAnimation3.3Mo
李加号pluuuus·2023-11-10 22:38

OPENAI 开发者大会_观后感_231107

（GPT3.5的JSON已明显好于其它模型，更进一步）检索功能+分析资料+2023.4月知识库（之前这些功能由外围提供，纳入外围）多模态集成（之前大家自行实现，降维打击，构建生态）GPT-4find-tuning
xieyan0811·2023-11-10 07:59

EMNLP2023 | 让模型学会将提示插入到合适的中间层

论文：ImprovingPromptTuningwithLearnedPromptingLayers地址：https://arxiv.org/
zenRRan·2023-11-09 08:10

底座（基座）模型是如何训练的？

我们把LLM的基本训练步骤分为两步，预训练和对齐；预训练我们非常熟悉，是bert-finetuning时代的基本原理，只不过LLM一般遵循自回归的逻辑，因此使用GPT模型的预训练方式：CLM（具备因果关系的
张牧之的AI课·2023-11-09 07:34

Tensorflow加载预训练模型和保存模型（ckpt文件）以及迁移学习finetuning

使用tensorflow过程中，训练结束后我们需要用到模型文件。有时候，我们可能也需要用到别人训练好的模型，并在这个基础上再次训练。这时候我们需要掌握如何操作这些模型数据。看完本文，相信你一定会有收获！1Tensorflow模型文件我们在checkpoint_dir目录下保存的文件结构如下：|--checkpoint_dir||--checkpoint||--MyModel.meta||--MyM
AI视觉网奇·2023-11-09 03:42

【ChatGLM2-6B微调】6GB显存实现ChatGLM2-6B大模型微调！

本文做清华官方代码包中自带的ptuning微调方式实践。（如下图所见，使用的是int4量化模型）这个可以参照我发布的博文《清华ChatGLM2-6B一键式部署，无需自行安装依赖环境！！》
yurous·2023-11-08 20:48

ChatGLM-6B部署、实战与微调

文章目录摘要下载chatglm-6b下载模型文件推理代码调用网页版的Demo网页版的Demo2命令行Demo部署API部署低成本部署模型量化CPU部署Mac部署多卡部署训练与微调软件依赖下载数据集训练P-Tuningv2
静静AI学堂·2023-11-08 20:45

转载：计算机视觉Paper with code-2023.10.31

【基础网络架构】（NeurIPS2023）FastTrainableProjectionforRobustFine-Tuning论文地址：https://arxiv.org//pdf/2310.19182
wuling129·2023-11-08 14:21

AutoGPT与ChatGPT插件开发(三)

.环境准备3.OpenAi接口调用三、实现定制化AutoGPT1.生成文件2.连接外网查询3.AutoGPTCommand原理四、知识拓展1.大模型应用开发-LangChain2.微调模型-fine-tuning3
罒王大虎·2023-11-07 08:05

Data security.隐私保护 -【论文阅读】Privacy-Preserving Prompt Tuning for Large Language Model Services论文解读

Datasecurity.隐私保护-【论文阅读】Privacy-PreservingPromptTuningforLargeLanguageModelServices论文解读目录Datasecurity
Adongua·2023-11-07 05:07

An Empirical Study of Instruction-tuning Large Language Models in Chinese

本文是LLM系列文章，针对《AnEmpiricalStudyofInstruction-tuningLargeLanguageModelsinChinese》的翻译。
UnknownBody·2023-11-07 03:08

【LLM】预训练||两句话明白儿的底层原理

这样的理解基本上是对的，预训练模型的训练和使用分别对应两个阶段：预训练阶段（pre-training）和微调（fune-tuning）阶段。
思考实践·2023-11-05 16:01

Oracle OCP 19c 认证1Z0-083考试(96-100题) #已上传

youdeterminedthebackupistakingtoolongandsuspectaperformancebottleneck.Whichthreearetrueaboutdiagnosingandtuningtheseproblems
wwwleoocom·2023-11-05 15:06

Instruction Tuning for Large Language Models_ A Survey

Abstract本文综述了快速发展的指令微调(IT)领域的研究工作，IT是增强大型语言模型(LLM)的能力和可控性的关键技术。指令调优是指通过使用(INSTRUCTION,OUTPUT)数据对大型语言模型进行有监督的进一步训练，以实现模型在遵循人类指令方面与其下一个单词预测目标之间的衔接。在这项工作中，我们对文献进行了系统回顾，包括指令调优的一般方法论、指令调优数据集的构建、指令调优模型的训练，以
藏星万朵·2023-11-05 14:07

【文生图】Stable Diffusion XL 1.0模型Full Fine-tuning指南（U-Net全参微调）

文章目录前言重要教程链接以海报生成微调为例总体流程数据获取POSTER-TEXTAutoPosterCGL-DatasetPKUPosterLayoutPosterT80KMovie&TVSeries&AnimePosters数据清洗与标注模型训练模型评估生成图片样例宠物包商品海报护肤精华商品海报一些TipsMata：EMU（ExpressiveMediaUniverse）ideogramDALL
liuz_notes·2023-11-05 14:35

GPT系列发展及技术：GPT1到GPT3的发展，InstructGPT的RLHF流程，GPT４

目录GPT系列前言Transformertransformer的代码实现Transformer位置编码具体结构BERT--EncoderGPT--Decoder微调方法--fine-tuningVSPromptingGPT1
榴莲_·2023-11-04 20:06

我的大语言模型微调踩坑经验分享

然后再对模型进行finetuning来更好满足自己的下游任务
机器学习社区·2023-11-04 11:05

论文研读｜An Embarrassingly Simple Approach for Intellectual Property Rights Protection on RNNs

目录论文信息文章简介研究动机研究方法白盒水印水印信号构造黑盒水印触发集构造水印嵌入实验结果保真度&有效性鲁棒性抗移除攻击（RemovalAttack）抗模型剪枝（ModelPruning）抗微调攻击（Fine-Tuning
_Meilinger_·2023-11-04 02:22

Langchain-Chatchat项目：4.2-P-Tuning v2使用的数据集

  本文主要介绍P-tuning-v2论文中的5种任务，分别为Glue任务、NER任务、QA任务、SRL任务、SuperGlue任务，重点介绍了下每种任务使用的数据集。
NLP工程化·2023-11-03 23:14

论文阅读：One Embedder, Any Task: Instruction-Finetuned Text Embeddings

这篇文章的重点就是提升embedding在不同任务和领域上的效果，特点是不需要用特定领域的数据进行finetune而是使用instuctionfinetuning就可以在不同的任务和领域上表现得很好。
comli_cn·2023-11-03 18:26

XGBoost调参指南

本文内容结构主要参考CompleteGuidetoParameterTuninginXGBoostwithcodesinPython及其中文翻译XGBoost参数调优完全指南。
井底蛙蛙呱呱呱·2023-11-03 16:34

cartographer扫图及调参，调试总结技巧

cartographer的调参很复杂，去cartographer_ros的网页上看看谷歌自己写的tuningmethods，单说cartographer的调参，先要确定自己用的主控板或者工控机性能怎么样
kobesdu·2023-11-03 15:14

LSH 复习（考试向）

LSHReviewOverallMinhashSignaturesBinaryMatrix（bit-vector）ConstructMinHashmatrixGeneratesimulatedpermutationsJaccardsimilaritiesTuningParametersforrNNSOverallhash
nine_mink·2023-11-03 14:42

05.大模型&大数据量

EmergentAbility（涌动现象）CalibrationInverseScalingPrizeSwitchTransformers大数据量数据预处理去重模型大小与训练数据的选择Instruction-tuningHumanTeachingKNNLM
oldmao_2000·2023-11-03 02:58

LIST: LITE SELF-TRAINING MAKES EFFICIENT FEW-SHOT LEARNERS

第一种是使用self-training，利用大量unlabeleddata进行prompt-tuning，以在few-shot设置下显著提高模型性能。
Tsukinousag·2023-11-03 00:37

GPT实战系列-ChatGLM2模型的微调训练参数解读

GPT实战系列-ChatGLM2模型的微调训练参数解读目录GPT实战系列-ChatGLM2模型的微调训练参数解读ChatGLM2模型1、P-Tuning模型微调2、微调训练配置参数train.sh中配置参数训练配置信息模型配置信息附录
Alex_StarSky·2023-11-02 22:57

LLM大语言模型训练中常见的技术：微调与嵌入

微调（Fine-Tuning）：微调是一种用于预训练语言模型的技术。在预训练阶段，语言模型（如GPT-3.5）通过大规模的文本数据集进行训练，从而学会了语言的语法、语义和世界知识。
MavenTalk·2023-11-02 15:07

【AI视野·今日Robot 机器人论文速览 第六十一期】Tue, 24 Oct 2023

AI视野·今日CS.Robotics机器人学论文速览Tue,24Oct2023Totally50papers上期速览✈更多精彩请移步主页DailyRoboticsPapersRobotFine-TuningMadeEasy
hitrjj·2023-11-02 02:24

2023-arxiv-LLaMA-Adapter Efficient Fine-tuning of Language Models with Zero-init Attention

2023-arxiv-LLaMA-AdapterEfficientFine-tuningofLanguageModelswithZero-initAttentionPaper:https://arxiv.org
发呆的比目鱼·2023-11-01 11:38

2023-ICLR-Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning

2023-ICLR-AdaptiveBudgetAllocationforParameter-EfficientFine-TuningPaper:https://openreview.net/forum
发呆的比目鱼·2023-11-01 11:54

Instruct and Extract: Instruction Tuning for On-Demand Information Extraction

本文是LLM系列文章，针对《InstructandExtract:InstructionTuningforOn-DemandInformationExtraction》的翻译。
UnknownBody·2023-11-01 11:06

Tuna: Instruction Tuning using Feedback from Large Language Models

本文是LLM系列文章，针对《Tuna:InstructionTuningusingFeedbackfromLargeLanguageModels》的翻译。
UnknownBody·2023-11-01 11:05

为什么说大模型微调是每个人都必备的核心技能？

▼最近直播超级多，预约保你有收获近期直播：《基于开源LLM大模型的微调（Finetuning）实战》0—为什么要对LLM大模型进行微调（Finetuning）？
musicml·2023-11-01 05:30

基于微调技术打造自己的私有LLM大模型

▼最近直播超级多，预约保你有收获近期直播：《基于开源LLM大模型的微调（Finetuning）实战》ChatGPT是“大力出奇迹”的典型代表，通过千亿级训练参数带来惊人的智能，但大模型并不完美，甚至一些在我们看来很简单的任务都完成不了
musicml·2023-11-01 05:00

AGENTTUNING：为LLM启用广义的代理能力

背景翻译智谱这篇文章的初衷是，智谱推出了他们所谓的第三代大模型。这第三代的特点在哪呢：个人总结主要有一下几个点：1.用特定prompt方式自闭环方式解决安全注入问题2.增加了模型functioncall、agent能力3.具备代码能力4.做了能力对齐、安全对齐总结一句话就是：增强模型泛化的能力（包括agent、代码工具使用能力），加强模型安全能力（能力被黑、道德被黑）做了能力对齐的工作。这篇文章介
远洋之帆·2023-11-01 02:14

ubuntu18.4（后改为20.4）部署chatglm2并进行基于 P-Tuning v2 的微调

下载驱动NVIDIA显卡驱动官方下载地址下载好对应驱动并放在某个目录下，在Linux系统中安装NVIDIA显卡驱动前,建议先卸载Linux系统自带的显卡驱动nouveau。禁用nouveau首先，编辑黑名单配置。vim/etc/modprobe.d/blacklist.conf在文件的最后添加下面两行。blacklistnouveauoptionsnouveaumodeset=0然后，输入下面的命
小草cys·2023-10-31 02:10

P-Tuning 源码分析

P-Tuning源码分析classPromptEncoder(torch.nn.Module):"""```py>>>frompeftimportPromptEncoder,PromptEncoderConfig
发呆的比目鱼·2023-10-30 11:31

2021-arxiv-GPT Understands, Too

2021-arxiv-GPTUnderstands,TooPaper：https://arxiv.org/abs/2103.10385Code：https://github.com/THUDM/P-tuningPrompt
发呆的比目鱼·2023-10-30 11:30
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他