m0_73607596的博客

原创 损失函数和正则化

L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。防止模型过拟合而加在损失函数后面的一项。我们经常会看见损失函数后面添加一个额外项，一般为L1-norm,L2-norm，中文称作L1正则化和L2正则化，或者L1范数和L2函数。L1正则化是指权值向量ww中各个元素的。L2正则化是指权值向量ww中各个元素的。