深度学习基本原理

目录

神经网络

激活函数

反向传播

损失函数

梯度下降法


        我们常常用深度学习这个术语来指训练神经网络的过程,它指的是特别大规模的神经网络训练。

神经网络

        一种模仿生物神经网络结构功能的非线性统计数据建模工具

        建模输入和输出间复杂的关系,主要用途是作为分类、回归器

  

激活函数

        神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值,并将输入值传递给下一层,输入层神经元节点会将输入属性值直接传递给下一层(隐层或输出层)。在多层神经网络中,上层节点的输出和下层节点的输入之间具有一个函数关系,这个函数称为激活函数(又称激励函数)。

损失函数

        损失函数是为了度量神经网络的预测结果和真实结果还差多远。

平方差损失

交叉熵损失

反向传播

前向传播:给定输入,预测结果

反向传播:给模型参数反馈预测结果和真实结果的差距,并指导参数做出调整

梯度下降法

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值