L1和L2正则

L1和L2正则

L1正则常被用来进行特征选择,主要原因在于L1正则化会使得较多的参数为0,从而产生稀疏解,我们可以将0对应的特征遗弃,进而用来选择特征。一定程度上L1正则也可以防止模型过拟合。

 L2正则:

L1和L2正则_第1张图片

L1和L2正则_第2张图片 

 L1损失函数相比于L2损失函数的鲁棒性更对异常值更不敏感。

参考资料:

L1和L2 详解(范数、损失函数、正则化) - 知乎 (zhihu.com)

l1正则与l2正则的特点是什么,各有什么优势? - 知乎 (zhihu.com)

你可能感兴趣的:(机器学习,人工智能)