regularization

机器学习中正则化项L1和L2的直观理解

[-]正则化Regularization稀疏模型与特征选择L1和L2正则化的直观理解L1正则化和特征选择L2正则化和过拟合正则化参数的选择L1正则化参数L2正则化参数Reference正则化（Regularization
看穿数据之美·2017-09-10 13:08

机器学习中对于正则化的理解

正则化(regularization)，是指在线性代数理论中，不适定问题通常是由一组线性代
梦家·2017-09-09 22:38

机器学习中对于正则化的理解

正则化(regularization)，是指在线性代数理论中，不适定问题通常是由一组线性代
梦家·2017-09-09 22:38

R---岭回归 & lasso回归

1.岭回归：岭回归（ridgeregression,Tikhonovregularization）实际上算是最小二乘法（OLS）的改良版。
cutwind·2017-09-06 21:25

机器学习中正则化项L1和L2的绘图+理解

正则化（Regularization）机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1-norm和ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和
dongapple·2017-09-05 15:16

tensorflow: 损失函数(Losses Functions) 探究

LossesThelossopsmeasureerrorbetweentwotensors,orbetweenatensorandzero.Thesecanbeusedformeasuringaccuracyofanetworkinaregressiontaskorforregularizationpurposes
JNingWei·2017-09-04 17:05

正则化方法：L1和L2 regularization、数据集扩增、dropout

本文是《Neuralnetworksanddeeplearning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程，网络在trainingdata上的error渐渐减小，但是在验证集上的erro
csdn__DRAGON·2017-08-30 15:59

过拟合

正则化模型的正则化（regularization）表示在目标函数中增加度量
devinwood·2017-08-20 13:11

Udacity Deep Learning课程作业（三）

Problem1LinearRegressionwithRegularizationbatch_size=128graph=tf.Graph()withgraph.as_default():#Inputdata.Forthetrainingdata
天才XLM·2017-08-19 23:32

Udacity Deep Learning课程作业（三）

Problem1LinearRegressionwithRegularizationbatch_size=128graph=tf.Graph()withgraph.as_default():#Inputdata.Forthetrainingdata
天才XLM·2017-08-19 23:32

正则化方法：L1和L2 regularization、数据集扩增、dropout

转载请注明出处：http://blog.csdn.net/u012162613/article/details/44261657本文是《Neuralnetworksanddeeplearning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting
rookie_chenzhi·2017-08-17 10:27

deeplearning Note : Practical aspects of Deep Learning

Dylan_frank(滔滔)这是吴恩达courseraDeepLearningSpecialization的第二门课程《ImprovingDeepNeuralNetworks:Hyperparametertuning,RegularizationandOptimization
孤鸿子_·2017-08-17 01:44

deeplearning Note : Practical aspects of Deep Learning

Dylan_frank(滔滔)这是吴恩达courseraDeepLearningSpecialization的第二门课程《ImprovingDeepNeuralNetworks:Hyperparametertuning,RegularizationandOptimization
孤鸿子_·2017-08-17 01:44

在神经网络中weight decay、momentum、batch normalization各自意义

在损失函数中，weightdecay是放在正则项（regularization）前面的一个系数，正则项一般指示模型的复杂度，所以weightdecay的作用是调节模型复杂度对损失函数的影响，若weightdecay
dongapple·2017-07-26 10:07

正则化方法：L1和L2 regularization、数据集扩增、dropout

正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在trainingdata上的error渐渐减小，但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集，对训练集外的数据却不work。为了防止overfitting，可以用的方法有很多
人工智能times·2017-07-20 15:54

神经网络学习：如何调参

神经网络中需要调的参数很多，如何正确地调参至关重要，需要调节的参数大概有如下几个：神经网络的层数每层神经元的个数如何初始化Weights和biasesloss函数选择哪一个选择何种Regularization
qoopqpqp·2017-07-18 09:02

Regularization

RegularizationTheproblemofoverfittingOverfittingifwehavetoomanyfeatures，thelearnedHypothesismayfittrainingsetverywell
Aoxuets·2017-07-14 21:45

优化策略5 Label Smoothing Regularization_LSR原理分析

LabelSmoothingRegularization（LSR）是一种通过在输出y中添加噪声，实现对模型进行约束，降低模型过拟合（overfitting）程度的一种约束方法（regularizationmethed
lqfarmer·2017-07-03 22:54

机器学习算法实现解析——libFM之libFM的训练过程之Adaptive Regularization

本节主要介绍的是libFM源码分析的第五部分之二——libFM的训练过程之AdaptiveRegularization的方法。
zhiyong_will·2017-06-16 20:21

L1范数和L2范数的区别

正则化（Regularization）机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1-norm和ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和
pan060757·2017-06-16 09:05

编程题汇总4

人工增加训练集的大小.通过平移,翻转,加噪声等方法从已有数据中创造出一批”新”的数据.Regularization。
Codeur·2017-06-09 19:36

编程题汇总4

人工增加训练集的大小.通过平移,翻转,加噪声等方法从已有数据中创造出一批”新”的数据.Regularization。
Codeur·2017-06-09 19:36

深度学习中的Data Augmentation方法（转）

在深度学习中，当数据量不够大时候，常常采用下面4中方法：1.人工增加训练集的大小.通过平移,翻转,加噪声等方法从已有数据中创造出一批"新"的数据.也就是DataAugmentation2.Regularization
VickyD1023·2017-05-18 22:39

MLE (最大似然) 与 LS (最小二乘) 与 MAP (最大后验)

或者能够基于它找到解释，例如：MLE可以解释为什么常用的线性回归使用的是平方（即最小二乘法），而不是四次方MLE思想与MAP思想的联系与区别；这关于概率统计领域频率学派vs.贝叶斯学派；还会涉及到对于机器学习中Regularization
爱学习的段哥哥·2017-05-06 08:34

L1、L2正则(Regularization )简介

过拟合就是随着模型的复杂度的增加，训练集上的正确率很高error很小，训练集拟合的非常好，但是在测试集上面的错误率却越来越高，效果很差，即模型的泛化能力很差；而正则化是通过约束参数的范数使其不要太大，所以可以在一定程度上减少过拟合情况；防止过拟合的方法有很多，比如：earlystopping，L2正则等；L1可以实现稀疏，关于稀疏可以暂且理解为：让参数W是稀疏的，就是希望W的大部分元素都是0。影响
令狐公子·2017-03-27 14:53

L0，L1，L2

L0范数向量中非0的元素的个数L1范数向量中各个元素绝对值之和别名“稀疏规则算子”（Lassoregularization）L0L1都可以实现稀疏，L1比L0有更好的优化求解特性L0范数难求解，NP难问题
charon____·2017-03-24 21:36

Standford 机器学习—第二讲 Linear Regression with multiple variables(多变量线性回归)

本栏目（Machinelearning）包括单参数的线性回归、多参数的线性回归、OctaveTutorial、LogisticRegression、Regularization、神经网络、机器学习系统设计
Geek-Yan·2017-03-18 08:12

02-深度学习中的Data Augmentation方法

Regularization：数据量比较小会导致模型过拟合,使得训练误差很小而测试误差特别大.
Levine-Huang·2017-02-23 09:15

机器学习算法集锦：从贝叶斯到深度学习及各自优缺点

https://static.coggle.it/diagram/WHeBqDIrJRk-kDDY目录正则化算法（RegularizationAlgori
javastart·2017-02-20 18:43

处理过拟合问题-Regularization

数学中的Regularization是为了解决overfitting问题而引入的一种方法。
凌风探梅·2017-02-04 13:14

Stanford机器学习---第九讲. 聚类

abcjennifer/article/details/7914952本栏目（Machinelearning）包括单参数的线性回归、多参数的线性回归、OctaveTutorial、LogisticRegression、Regularization
MapleLeaff·2017-01-07 20:20

PTB递归神经网络阅读笔记

PTB递归神经网络阅读笔记RECURRENTNEURALNETWORKREGULARIZATION在神经网络模型中，一般分为非时序模型和时序模型，对于非时序模型而言，其应用场景有单一手写字识别、图像物体分类等等
撒哈拉土狼·2016-12-23 09:09

深度学习中防止过拟合的方法

在深度学习中，当数据量不够大时候，常常采用下面4中方法：1.人工增加训练集的大小.通过平移,翻转,加噪声等方法从已有数据中创造出一批"新"的数据.也就是DataAugmentation2.Regularization
Ddreaming·2016-11-18 09:06

Stanford机器学习---第七讲. 机器学习系统设计

Stanford机器学习---第七讲.机器学习系统设计本栏目（Machinelearning）包括单参数的线性回归、多参数的线性回归、OctaveTutorial、LogisticRegression、Regularization
绝对不要看眼睛里的郁金香·2016-11-17 23:05

机器学习--正则化（regularization)防止分类器过拟合

本文参考吴恩达《机器学习》课程。要介绍正则化，先要介绍一下过拟合的概念。1过拟合（overfitting）拿线性回归中（房价-房子面积）为例，如下图，最左边那幅图中，我们用线性回归（一次函数，因为只有一个特征size）来进行拟合，可以看到拟合出来的线大致反应出房价的趋势，但是并没有很好的拟合，这种情况我们称之为欠拟合（underfitting）；为了更好的拟合，中间图我们用二次函数（即令x1=2,
helen1313·2016-11-04 16:57

神经网络九：Regularization（正则化）与Dropout

本文主要讲解神经网络中的正则化（Regularization）和Dropout，都是用了减小过拟合。正则化在机器学习领域中很重要。主要针对模型过拟合问题而提出来的。本文是观看麦子学院的视频整理而来。
Bixiwen_liu·2016-11-01 19:06

cs231n学习笔记-激活函数-BN-参数优化

一次性设置（Onetimesetup）-激活函数（Activationfunctions）-数据预处理（DataPreprocessing）-权重初始化（WeightInitialization）-正则化（Regularization
江州司马binbin·2016-10-15 08:07

解析Tensorflow官方PTB模型的demo

第一个模型是围绕着Zaremba的论文RecurrentNeuralNetworkRegularization，以Tensorflow框架为载体进行的实验再现工作。
mydear_11000·2016-09-05 14:30

解析Tensorflow官方PTB模型的demo

第一个模型是围绕着Zaremba的论文RecurrentNeuralNetworkRegularization，以Tensorflow框架为载体进行的实验再现工作。
mydear_11000·2016-09-05 14:00

交替最小二乘法（ALS)

ALS是alternatingleastsquares的缩写,意为交替最小二乘法；而ALS-WR是alternating-least-squareswithweighted-λ-regularization
Codlife一王家二公子·2016-09-01 21:48

深度学习笔记2：反向传播算法

1、损失函数损失函数在统计学中是一种衡量损失和误差程度的函数，它一般包括损失项(lossterm)和正则项(regularizationterm)。
kanei_ri·2016-08-16 18:25

为什么正则化（Regularization）可以减少过拟合风险

在解决实际问题的过程中，我们会倾向于用复杂的模型来拟合复杂的数据，但是使用复杂模型会产生过拟合的风险，而正则化就是常用的减少过拟合风险的工具之一。过拟合过拟合是指模型在训练集上误差很小，但是在测试集上表现很差(即泛化能力差)，过拟合的原因一般是由于数据中存在噪声或者用了过于复杂的模型拟合数据。如下图所示，下图中的训练样本是三次多项式加了点噪声得到的，然后用不同的多次项拟合，M代表最高次项次数，下面
Jackie_Zhu·2016-08-09 00:48

Machine Learning Week4 ex4.m

根据参数来计算损失，此时并不添加regularization。下一步就是包含regularizatio的J。simgoidGradient就是sigmoid函数的导函数。
hello_pig1995·2016-07-30 17:38

正则化

正则化(regularization)，是指在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。
kinghannah·2016-07-29 16:19

机器学习 Machine Learning（by Andrew Ng）----第五章 正则化(Regularization)

第五章 正则化(Regularization)  1.过拟合的问题(TheProblemofOverfitting)    我们已经学习了几种不同的监督学习算法，包括线性回归和逻辑回归，它们能够有效地解决许多问题
赵纯良·2016-07-23 08:14

cs231n学习笔记-激活函数-BN-参数优化

一次性设置（Onetimesetup）-激活函数（Activationfunctions）-数据预处理（DataPreprocessing）-权重初始化（WeightInitialization）-正则化（Regularization
Arrow·2016-07-07 09:45

cs231n学习笔记

     -激活函数（Activationfunctions）     -数据预处理（DataPreprocessing）     -权重初始化（WeightInitialization）     -正则化（Regularization
MyArrow·2016-07-07 09:00

SparkML之回归(二)岭回归和Lasso阐述及OLS,梯度下降比较

岭回归（RidgeRegression）它的上一级称之为Tikhonovregularization，是以AndreyTikhonov命名的。
legotime·2016-07-06 07:21

SparkML之回归(二)岭回归和Lasso阐述及OLS,梯度下降比较

岭回归（RidgeRegression）它的上一级称之为Tikhonovregularization，是以AndreyTikhonov命名的。
legotime·2016-07-06 07:00

基于Keras/Python的深度学习模型Dropout正则项

原文：DropoutRegularizationinDeepLearningModelsWithKeras作者：JasonBrownlee翻译：赵屹华责编：周建丁（投稿请联系[email protected]
周建丁·2016-07-05 06:48
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他