tensorflow框架基础——正则化

最新推荐文章于 2021-01-17 13:13:35 发布

VIP文章 steadfastly

最新推荐文章于 2021-01-17 13:13:35 发布

阅读量196

点赞数

分类专栏： tensorflow 文章标签： tensorflow python 深度学习机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/u010556156/article/details/88653183

版权

1.过拟合

如果一个神经网络模型在训练集的准确率很高，而在新的数据集或者测试集准确率较低，说明模型的泛化能力差，也就是过拟合现象。

2.正则化

正则化就是在损失函数中给每一个参数w（一般不对参数b做正则化）加上权重，从而抑制模型的噪声，减小过拟合。但是这个策略可能会以增大训练误差为代价。

3.tensorflow函数

$L^{1}$ 正则化： $loss_{L^{1}}=\sum _{i}\left | w_{i} \right |$

loss(w) = tf.contrib.layers.l1_regularizer(REGULARIZER)(w)

$L^{2}$ 正则化：

最低0.47元/天解锁文章

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
tensorflow框架基础——正则化

1.过拟合如果一个神经网络模型在训练集的准确率很高，而在新的数据集或者测试集准确率较低，说明模型的泛化能力差，也就是过拟合现象。2.正则化正则化就是在损失函数中给每一个参数w（一般不对参数b做正则化）加上权重，从而抑制模型的噪声，减小过拟合。但是这个策略可能会以增大训练误差为代价。3.tensorflow函数正则化：loss(w) = tf.contrib.laye...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。