感知机&&BP神经网络

0.引言

神经网络本质类似于极大似然估计:模型已经确定,参数未知;对模型的求解就是利用观测值来求解模型的参数。

1.感知机 MP 模型

请添加图片描述

请添加图片描述

注意损失函数是针对误分类样本点而言的.

请添加图片描述

请添加图片描述

举例:
现有如下训练数据集,正样本点 M 1 ( 3 , 3 ) M_1(3,3) M1(3,3) M 2 ( 4 , 3 ) M_2(4,3) M2(4,3) ,负样本点 M 3 ( 1 , 1 ) M_3(1,1) M3(1,1) ,请利用感知机算法求感知机模型 f ( x ) = s i g n ( w T x + b ) f(x) = sign(w^Tx + b) f(x)=sign(wTx+b).

请添加图片描述

在第五步选择不同的误分类点,最后得出的模型也不相同,但都能正确的将样本进行区分开。

2.神经网络

请添加图片描述

  • 在线demo,普通的单层感知机,无法解决非线性问题。

请添加图片描述

请添加图片描述

请添加图片描述

请添加图片描述

Q:为什么多层神经网络可以拟合任意函数?其与浅层宽网络的区别是什么?

  • 从感知机的角度看

请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述

  • 从决策边界的角度看

请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述

3.反馈网络(BP)

请添加图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述


其他推导类似,最后结果:

在这里插入图片描述

在这里插入图片描述

这个推导就不推导了,就是一些链式法则,和前面的推导一样的。

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值