深度学习学习特征详细过程

最近和别人讨论的时候感觉有点讲不清楚自己的模型到底是怎么去学习到那些特征的,所以又捋了一遍过程。
以图像为例
现在的模型大多以卷积层-BN层-激活函数为结构
第一层:
卷积层里的卷积核和输入图像进行卷积,得到n个特征图像,卷积核里面的每一个元素我是理解为神经元,它的参数w和β最开始的时候是随机初始化的,经过卷积层后得到Y=W·X+β,得到了Y[i](i=0~n-1),随便在图中选择一个碎片S,用尽可能少的Y[i]来叠加组合成这个碎片S。
卷积层是线性变化,线性变化只能解决简单的线性分类问题,所以需要将卷积层后的输出经过一个非线性激活函数来使结构不是线性的,由于随着网络的加深和训练过程中,输入会发生偏移或变动,在激活函数前,卷积层后添加BN层使得每一层的输入保持相同的分布以加快训练速度,避免梯度消失。
Z = F(Y) = F(W·X+b)
多层:
经过多层卷积后不停地逼近于真实值,最后输出一个预估值。
损失函数和优化:
然后用损失函数对真实值和预估值计算出损失值,利用损失值进行模型的参数优化,目的是使损失值接近于0 ,一般采用梯度下降的优化方法,让w沿着负梯度的方向进行更新,完成一次迭代。
完成多次迭代后,得到一个较小的损失值和较好的模型指标。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值