神经网络的正向传播和反向传播

一、什么是神经网络

1. 神经元

2. 感知器

3. 神经网络

二、激活函数

1. 阶跃函数

阶跃函数以阈值为界,一旦输入超过阈值,就切换输出。在感知机中,使用了阶跃函数。
阶跃函数的数学表达式为:

(1) h ( x ) = { 0 ( x ≤ 0 ) 1 ( x > 0 ) \color{red} h(x)=\begin{cases} 0 &&(x\leq0)\\\\ 1 &&(x>0) \end{cases}\tag{1} h(x)=01(x0)(x>0)(1)

2. sigmoid函数

Sigmoid输出的值介于0和1之间,这使其成为二元分类的一个非常好的选择。 如果输出小于0.5,则可以将其归类为0,如果输出大于0.5,则归类为1。 它也可以用tanh来完成,但是它不太方便,因为输出在-1和1之间。

3. Tanh函数

4. ReLU函数

5. SoftMax函数

6. SoftPlus函数

三、神经网络的正向传播

四、神经网络的反向传播

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值