regularization

【统计学习课程】1 线性回归

总结自刘东老师《统计学习》课程，教材选用周志华老师《机器学习》西瓜书每节都给了小结，可以快速了解每节内容线性回归From1to2从简单的问题入手统计解释小结正则化Regularization为什么要有正则化理解
Jiaxi_Cao·2020-08-21 10:30

Day4 Loss Function

关键词：LossFunction、正规化Regularization、SVMLoss，SoftmaxLoss（交叉熵损失）LossFunctionTheapproachwillhavetwomajorcomponents
花瑜儿·2020-08-20 14:33

深度学习（八）正则化Regularization

写在前面：所有关于深度学习的基础知识均为鄙人的笔记分享，很多内容摘自大神们的博客或论文，因时间太长记不清了分别来自哪里。若有侵权，请联系鄙人邮箱[email protected]参考：https://www.cnblogs.com/jianxinzhou/p/4083921.html1.TheProblemofOverfitting1还是来看预测房价的这个例子，我们先对该数据做线性回归，也就是左
米翁方·2020-08-20 13:29

ill-posed problem 以及 Tikhonov regularization

TikhonovregularizationsTikhonovregula
十月岑·2020-08-20 13:14

深度学习中Dropout和Layer Normalization技术的使用

srivastava14a/srivastava14a.pdfLayerNormalization:https://arxiv.org/abs/1607.06450RECURRENTNEURALNETWORKREGULARIZATIONhttps
warrioR_wx·2020-08-20 12:31

batchnorm与dropout的区别

Dropoutismostlyatechniqueforregularization.Itintroducesnoiseintoaneuralnetworktoforcetheneuralnetworktolearntogeneralizewellenoughtodealwithnoise
Takoony·2020-08-20 10:58

Spark-ML 线性回归 LinearRegression （1）

Spark-ML线性回归LinearRegression（1）LinearRegression参数详述：正则化参数-Regparam：（Double）默认值为0.0Regparam:TheRegularizationParameter
Billwang129·2020-08-20 06:40

L1正则化如何导致参数的稀疏性

，L2惩罚项没有搞清楚其意义pluskid的博客http://freemind.pluskid.org/machine-learning/sparsity-and-some-basics-of-l1-regularization
omadesala·2020-08-20 00:14

BN层计算的为什么不是协方差矩阵的理解

hhhhNotethattheuseofminibatchesisenabledbycomputationofper-dimensionvariancesratherthanjointcovariances;inthejointcase,regularizationwouldberequiredsincethemini-batchsizeislikel
ginger188·2020-08-19 05:56

pytorch中的正则化-weight decay与dropout

**首先是pytorch中的L2正则项weightdecay**一.正则化与偏差方差分解Regularization:减小方差的策略误差可分解为:偏差，方差与噪声之和。
化茧成蝶梦成真·2020-08-19 05:06

Dropout Regularization（丢弃正则化）

DropoutRegularization（丢弃正则化）为了防止过拟合的问题，我们最常使用的手段就是L2正则化，即在代价函数后面加一个L2正则项。
天泽28·2020-08-19 04:32

caffe中的损失函数

损失函数，一般由两项组成，一项是lossterm,另外一项是regularizationterm。J=L+R先说损失项loss，再说regularization项。
778811·2020-08-19 03:25

2018-06-28 BP算法

梯度下降法(batch)gradientdescent（整体）代价函数(overall)costfunction方差squared-error均方差averagesum-of-squareserror规则化项regularizationterm
dataTONG·2020-08-19 03:43

深度学习中的正则化策略总结

文章目录1.正则化的概念1.1过拟合2.参数范数惩罚2.1L1和L2概述2.2L1正则化2.2.1L1正则化与稀疏性2.3L2正则化3.DropoutRegularization（随机失活）3.1理解dropout3.2dropout
InceptionZ·2020-08-19 00:52

吴恩达深度学习笔记(32)-Dropout正则化Dropout Regularization

dropout正则化（DropoutRegularization）除了L2正则化，还有一个非常实用的正则化方法——“Dropout（随机失活）”，我们来看看它的工作原理。
极客Array·2020-08-19 00:52

P-DARTS论文总结

BridgingtheDepthGapbetweenSearchandEvaluation文章目录解决的问题DepthGap渐进式增加搜索深度搜索空间近似（SearchSpaceApproximation）搜索空间正则化（SearchSpaceRegularization
没想好叫啥···2020-08-18 17:24

神经网络游乐园

playground.tensorflow.org/#activation=tanh&batchSize=10&dataset=circle®Dataset=reg-plane&learningRate=0.03&regularizationRate
Magic_Anthony·2020-08-18 14:53

11_Training Deep Neural Networks_4_dropout_Max-Norm Regularization_CIFAR10_find_learning rate

11_TrainingDeepNeuralNetworks_VarianceScaling_leakyrelu_PReLU_SELU_BatchNormalization_Reusinghttps://blog.csdn.net/Linli522362242/article/details/10693591011_TrainingDeepNeuralNetworks_2_transferlearn
LIQING LIN·2020-08-18 14:48

“数据融合”总结2

FeaturefusionwithcovariancematrixregularizationinfacerecognitionZeLu(SignalProcessing)特征融合方法一般有两步：A、对每一个特征集合进行降维
Manfestain·2020-08-18 10:21

L1&L2 Regularization

正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在trainingdata上的error渐渐减小，但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集，对训练集外的数据却不work。为了防止overfitting，可以用的方法有很多
weixin_30650039·2020-08-18 04:58

深度学习(五)优化算法--提高神经网络的训练速度和精度

接着，我们介绍了防止过拟合的两种方法：L2regularization和Dropou
黑洲非人lyf·2020-08-17 23:45

吴恩达《深度学习》课程介绍

NeuralNetworksandDeepLearning）2.改善深层神经网络：超参数调优，正则化和优化（ImprovingDeepNeuralNetworks:Hyperparametertuning,RegularizationandOptimization
Erik_ly·2020-08-17 10:41

Image Inpainting via Generative Multi-column Convolutional Neural Networks

2.2LossfunctionID-MRFregularization：这个损失或正则项其实就是常见的感知损失或特征损失的改良版，用上面的
想要成为学霸的渣渣·2020-08-17 10:36

飞桨paddlepaddle论文复现——BigGAN论文翻译解读

paddlepaddle论文复现——BigGAN论文翻译解读摘要介绍GAN回顾原始GANDCGANWGANBigGANscalingHierarchicallatentspaces分层潜在空间截断技巧OrthogonalRegularization
Relaxxxv·2020-08-17 04:09

飞桨论文复现-BigGANs

研究者发现应用垂直正则化（orthogonalregularization）到生成器可以使其服从简单的
小庞666·2020-08-17 03:48

【paddlepaddle论文复现】Large scale GAN training for high fidelity natural image synthesis论文学习

通过实验发现，采用正交规范化（orthogonalregularization）是一个很好的truncationtrick，可以实现样本质量和样本多样性之间的平衡。
精致又勤奋的码农·2020-08-17 02:49

2020-7-25 吴恩达-改善深层NN-w1 深度学习的实用层面(课后编程2-Regularization-L2和dropout)

正则化Regularization1.非正则化模型2.L2正则化L2正则化到底做了什么？
没人不认识我·2020-08-16 16:31

(10) [JMLR14] Dropout: A Simple Way to Prevent Neural Networks from Overfitting

计划完成深度学习入门的126篇论文第十篇，多伦多大学的GeoffreyHinton·和AlexKrizhevsky使用一种新的regularization方法Dropout。
gdtop818·2020-08-16 09:30

21个数据科学家面试必须知道的问题和答案

KDnuggets编辑提供了用以斟辨“假”数据科学家之二十问的答案，包括什么是正则化（regularization），我们喜爱的数据科学家，模型验证等等。
绝对不要看眼睛里的郁金香·2020-08-16 07:04

Sparsity and Some Basics of L1 Regularization

转：http://freemind.pluskid.org/machine-learning/sparsity-and-some-basics-of-l1-regularization/#67364f6b44ff80f9f952d5a46f2307425d2ee9acSparsity
Savitch·2020-08-16 06:17

Stanford机器学习---第十讲. 数据降维

本栏目（Machinelearning）包括单参数的线性回归、多参数的线性回归、OctaveTutorial、LogisticRegression、Regularization、神经网络、机器学习系统设计
Rachel-Zhang·2020-08-16 05:40

论文复现《Effective Adversarial Regularization for Neural Machine Translation》

复现论文《EffectiveAdversarialRegularizationforNeuralMachineTranslation》，遇到的一些pytorch的技巧（坑），总结一下。
Dracen_Wu·2020-08-16 05:41

语音分离任务中后处理模块探索

本身是空白的地方，模型并没有完全输出空白2.也有paper里边提到对空白部分vocal的抑制效果，不过它使用MHE(MINIMUMHYPERSPHERICALENERGY)，相当于是在loss上加了一个regularization
西工大苗苗·2020-08-16 00:45

loss function

dramanan/teaching/ics273a_winter08/lectures/lecture14.pdf，翻译来自转载LossFunction损失函数可以看做误差部分(lossterm)+正则化部分(regularizationterm
raullese_1990·2020-08-15 03:56

2.过拟合和正则化（Overfitting & Regularization）

1.过拟合通过训练集traingdata确定了模型y=b+w·x,算出在traingdata中的平均错误值averageerror为31.9用确定的模型y=b+w·x来预测测试集testingdata，要评估模型的好坏，还要继续算出该模型在testingdata中的平均错误值averageerror：35为了减少预测误差，要继续改进模型：重新设计一个model，该模型在traingdata和tes
小甜姜！·2020-08-15 03:40

吴恩达机器学习（五）正则化（解决过拟合问题）

目录0.前言1.正则化（Regularization）2.线性回归中的正则化3.逻辑回归中的正则化学习完吴恩达老师机器学习课程的正则化，简单的做个笔记。文中部分描述属于个人消化后的理解，仅供参考。
zhq9695·2020-08-14 22:25

【深度强化学习】TD3算法：DDPG的进化

文章目录0）简述TD31）DoubleNetwork2）Delayed3）TargetPolicySmoothingRegularization算法流程总结0）简述TD3算法原文：Fujimoto,Scott
catchy666·2020-08-14 21:57

DNN训练技巧（Tips for Training DNN）

RecipeofDeepLearning训练集上效果差换激活函数Newactivationfunction自适应学习率AdaptiveLearningRate训练集上效果好的基础上测试集上效果差早停EarlyStopping正则化RegularizationD
weixin_30682127·2020-08-14 20:39

深度学习中的MTL效果为什么会好

对MTL的分析可以从两个角度进行，第一个是featurerepresentation共享，第二个是regularization。1、特征共享。
qq_23150675·2020-08-14 18:44

支持向量机 SVM 讲义（四）

【转自】http://www.cnblogs.com/jerrylead9规则化和不可分情况处理（Regularizationandthenon-separablecase）我们之前讨论的情况都是建立在样例线性可分的假设上
dalaipifengxiansheng·2020-08-14 17:46

通俗理解BN(Batch Normalization)

一次性设置（Onetimesetup）-激活函数（Activationfunctions）-数据预处理（DataPreprocessing）-权重初始化（WeightInitialization）-正则化（Regularization
nine_mink·2020-08-14 15:59

B站吴恩达深度学习视频笔记（33）——正则化的解释

正则化（Regularization）深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高
nine_mink·2020-08-14 15:59

B站吴恩达深度学习视频笔记（34）——为什么正则化可以防止过拟合

（Whyregularizationreducesoverfitting?）为什么正则化有利于预防过拟合呢？为什么它可以减少方差问题？我们通过两个例子来直观体会一下。
nine_mink·2020-08-14 15:59

机器学习中正则化项L1和L2的直观理解

正则化（Regularization）机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1-norm和ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和
明宇李·2020-08-14 10:09

吴恩达机器学习错题集

Week3Regularization第1题Youaretrainingaclassificationmodelwithlogisticregression.Whichofthefollowingstatementsaretrue
风所在的街道·2020-08-14 07:41

pytorch学习笔记：损失函数

0.定义损失函数：衡量模型输出与真实标签的差异Cost：希望训练使得预测与标签的差异小一些Regularization：对模型增加一些约束，防止过拟合1.损失函数1.1交叉熵损失函数labels必须是dtype
小杰.·2020-08-13 22:05

机器学习（七）岭回归

正则化(Regularization)概念及原因正则化是一种为了减小测试误差的行为(有时候会增加训练误差)。在构造机器学习模型时，最终目的是让模型在面对新数据的时候，可以有很好的表现。
weixin_45781143·2020-08-13 11:02

深度学习之卷积神经网络(CNN)

过拟合问题Regularization：Dropout池化的
年少无为呀！·2020-08-12 09:31

模型压缩工具Distiller-INT8量化

主要功能：Aframeworkforintegratingpruning,regularizationandquantizationalgorithms.模
lz_zl_·2020-08-11 22:32

动手学深度学习读书笔记-6

缓解过拟合权重衰减权重衰减等价于L2范数正则化（regularization）。L2范数正则化在模型原损失函数基础上添加L2范数惩罚项，从而得到训练所需要最小化的函数。
wxl1999·2020-08-11 04:31
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他