什么是正则化？为什么要正则化？怎样正则化？
对正则化化一直不是十分理解，只知道正则化可以防止过拟合。为什么给loss增加一个正则化就可以防止过拟合，说说我自己的理解。
当针对一个实际问题完成机器学习模型的建立后，需要求解模型的参数。由于复杂模型的参数没有解析解，所以建立一个损失函数，通过最大似然估计等方法求解损失函数为最小值时的模型参数。模型越复杂（非线性相关的向量越多），越可以表达原始数据的更多特征。当学习过多训练集特有特征时，模型就会出现过拟合现象（对测试数据的共有特征不敏感）。由于原始数据固有特征无法改变，所以可以通过损失函数来限制待求解的模型参数（减小非线性相关向量的数量），来减小模型可以学习特征的数量。为损失函数增加正则化，可以在一定程度上减小非线性相关向量的数量。
为什么增加正则化可以减小非线性相关向量的数量呢？因为增加一个正则化后，目标函数变为损失函数和正则化的和。求目标函数为最小值时的模型参数，通常在损失函数和正则化的相交线上。这个相交线对损失函数的非线性相关的向量起到一个限制作用，使非线性相关向量的数量减少。
正则化是通过改变模型参数来防止过拟合的一个方法。 前面使用多项式回归，如果多项式最高次项比较大，模型就容易出现过拟...
什么是正则化？为什么要正则化？怎样正则化？ 对正则化化一直不是十分理解，只知道正则化可以防止过拟合。为什么给los...
正则化 正则化是机器学习中一种常见的概念。正则化不仅在深度学习中有，在传统的机器学习中也有。 单纯从名字上不好理解...
本文主要用于理解正则化的原理，并且重点比较了L1与L2这两种正则化方法的区别。 基本目录如下： 正则化的原理1.1...
什么是正则，为什么要正则 机器学习深度学习中的正则化（regularization）可以理解为模型的复杂度。我们希...
正则化和交叉验证 正则化 在经验风险上加一个正则化项或者罚项，回忆下经验风险是 模型关于一个训练集的平均损失. 交...
分享正则表达式可视化器和测试工具。 正则表达式可视化器 图形化显示正则表达式这样容易理解点。main_page1 ...
本文是本人学习了相关机器学习课程后的一个关于L1正则化与L2正则化的学习笔记。 正则化 从上图1 可知，随着训练迭...
为什么要正则化？ 正则化的本质是什么？ 正则化有哪些方法？ 1.为什么要正则化？ 正则化可以解决模型过拟合的问题，...
本文主要介绍，Python数据科学：正则化方法。正则化方法的出现，通过收缩方法(正则化方法)进行回归。 正则化方法...
本文标题：关于正则化的理解
本文链接：https://www.haomeiwen.com/subject/jaciwhtx.html
网友评论