shanzhonglujie的博客

1.引入 为了防止过拟合的现象出现，引入正则化方法。 （1）岭回归就是引入L2正则化项 （2）lasso回归就是引入L1正则化项 （3）ElasticNet回归就是引入L1和L2正则化项（lasso和ridge回归组合）。 公式： 2.概念 将下面之前先来了解一下什么叫L0/L1/L2范数 L0:向量中非零元素个数 L1:向量中各元素的绝对值之和（美称‘稀疏规则算子’） L2:向量中...

转自https://www.cnblogs.com/wxquare/p/5379970.html，增加了少量内容 决策树模型在监督学习中非常常见，可用于分类（二分类、多分类）和回归。虽然将多棵弱决策树的Bagging、Random Forest、Boosting等tree ensembel 模型更为常见，但是“完全生长”决策树因为其简单直观，具有很强的解释性，也有广泛的应用，而且决策...