自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

UESTC_201722的博客

这世上天才很少,懒蛋却很多,你若对得起时间,时间变便得起你.

  • 博客(2)
  • 收藏
  • 关注

原创 【机器学习】分类时,为什么不使用均方误差而是使用交叉熵作为损失函数

MSE对于每一个输出的结果都非常看重,而交叉熵只对正确分类的结果看重当MSE和交叉熵同时应用到多分类场景下时,(标签的值为1时表示属于此分类,标签值为0时表示不属于此分类),**MSE对于每一个输出的结果都非常看重**,**而交叉熵只对正确分类的结果看重**。例如:在一个三分类模型中,模型的输出结果为(a,b,c),而真实的输出结果为(1,0,0),那么MSE与cross-entropy相对应的...

2019-05-23 11:23:35 3711

原创 【机器学习】分类时,使用平方损失搭配sigmoid激活函数出梯度消失现象

当sigmoid函数和MSE一起使用时会出现梯度消失。原因如下:(1)MSE对参数的偏导(2)corss-entropy对参数的偏导由上述公式可以看出,在使用MSE时,w、b的梯度均与sigmoid函数对z的偏导有关系,而sigmoid函数的偏导在自变量非常大或者非常小时,偏导数的值接近于零,这将导致w、b的梯度将不会变化,也就是出现所谓的梯度消失现象。而使用cross-entrop...

2019-05-23 11:10:09 1591

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除