神经网络算法推演-------前馈神经网络(feedforward neural network )

前馈神经网络(feedforward neural network )

学习神经网络的公式推导时,看到一篇很好的文章,所以就搬到了自己的博客,重新编辑了下,也算是自我学习并分享给大家,查看原文请点击===>>>>>

1.1概述

以监督学习为例,假设我们有训练样本集 (x(i),y(i)) ( x ( i ) , y ( i ) ) ,那么神经网络算法能够提供一种复杂且非线性的假设模型 hW,b(x) h W , b ( x ) ,它具有参数 W W ,可以以此参数来拟合我们的数据。

为了描述神经网络,我们先从最简单的神经网络讲起,这个神经网络仅由一个“神经元”构成,以下即是这个“神经元”的图示:
这里写图片描述
这个“神经元”是一个以 x1,x2,x3 x 1 , x 2 , x 3 及截距 +1 + 1 为输入值的运算单元,其输出为

hW,b(x)=f(WTx)=f(3i=1Wixi+b) h W , b ( x ) = f ( W T x ) = f ( ∑ i = 1 3 W i x i + b )
,其中函数 f:RR f : ℜ ↦ ℜ 被称为“ 激活函数”。在本教程中,我们选用sigmoid函数作为”’激活函数”’ f() f ( ⋅ )

f(z)=11+exp(z). f ( z ) = 1 1 + exp ⁡ ( − z ) .

可以看出,这个单一“神经元”的输入-输出映射关系其实就是一个逻辑回归(logistic regression)。

虽然本系列教程采用sigmoid函数,但你也可以选择双曲正切函数(tanh):

f(z)=tanh(z)=ezezez+ez, f ( z ) = tanh ⁡ ( z ) = e z − e − z e z + e − z ,

tanh(z) tanh ⁡ ( z ) 函数是sigmoid函数的一种变体,它的取值范围为 [1,1] [ − 1 , 1 ] ,而不是sigmoid函数的 [0,1] [ 0 , 1 ]

最后要说明的是,有一个等式我们以后会经常用到:

  • 如果选择 f(z)=1/(1+exp(z)) f ( z ) = 1 / ( 1 + exp ⁡ ( − z ) ) ,也就是sigmoid函数,那么它的导数就是 f(z)=f(z)(1f(z)) f ′ ( z ) = f ( z ) ( 1 − f ( z ) )
  • 如果选择tanh函数,那它的导数就是 f(z)=1(f(z))2 f ′ ( z ) = 1 − ( f ( z ) ) 2 ,你可以根据sigmoid(或tanh)函数的定义自行推导这个等式。

1.2 神经网络模型

所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:
这里写图片描述

我们使用圆圈来表示神经网络的输入,标上“ +1 + 1 ”的圆圈被称为”’偏置节点”’,也就是截距项。神经网络最左边的一层叫做”‘输入层”’,最右的一层叫做”‘输出层’”(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做”’

  • 10
    点赞
  • 76
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值