多层感知机和神经网络的区别_【深度学习:预备知识】(1)感知机

dfb9cb4327398c4983049bb553608976.png

Perceptron is a single layer neural network and a multi-layer perceptron is called Neural Networks.

从波士顿房价理解阉割版感知机

感知机(Perceptron)在1957年由Rosenblatt提出,是神经网络和支持向量机的基础

感知机是一种二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,+1代表正类,-1代表负类。感知机属于判别模型,它的目标是要将输入实例通过分离超平面将正负二类分离

先不考虑激活函数

没有激活函数的感知机其实就是多元线性回归,也可以当最简单的二分类模型使用。如下边右图,可以将空间分成positive、negative两部分

你是一个小白,想要用波士顿房价数据集来预测房价。最简单的方式就是用下边左图的多元线性回归的方式来预测

eb46ce1509e12f37e8c4d57edf47a339.png
性能加强:不考虑激活函数的多层感知机

还是预测波士顿房价的任务。你发现其实不同feature在不同district中的表现是不一样的。怎么理解呢,假如在市中心,距离地铁站feature的重要性是1,公园面积feature的重要性是10,但是到了郊区,有可能距离地铁站feature的重要性就变成10,而公园面积feature的重要性就变成1了。因为不同区域资源的稀缺程度不同

多层感知机可以解决这个问题

每一个神经元(这里没有激活函数)都可以考虑成一个专家,他就对某个区域熟悉,会根据经验对这个特定区域打分。最后的房价综合了若干个专家的意见。怎么样,现在听起来是不是更合理了

如果将多层感知机用在分类任务中,如下右图,多层感知机可以切出一个不规则三角形区域

3d902773b595cd105d2865f77b4a6757.png

db4402f5b6b9766ceea94844d232b378.png

问题:线性函数具有可加性和齐次性。任意线性函数连接都可以等价为一个单一线性函数

多个perceptron简单的堆叠最终还是会回到

的线性模式,学习能力非常有限,无法解决非线性问题

41d2e3fcfaabc1b5828ec998477c9f9a.png

真正的感知机

感知机由4个部分组成:

  1. Input values or One input layer
  2. Weights and Bias
  3. Net sum
  4. Activation Function
因为多个perceptron简单的堆叠最终还是会回到
的线性模式,那么为了让模型拥有拟合非线性的能力,我们对每个perceptron加一个非线性函数,这样他们组合在一起不就可以解决非线性问题啦。这样的函数就叫做Activation Function,激活函数

5ff97734bc1aac5b167ea4f09c317b9b.png

感知机工作原理:

  1. 所有的inputs
    乘以他们的weights

a39e4aa474775fa490203f94b0246ff3.png

2. 将所有乘积都加起来

d0ef3343dfb5471ffde0d2fda0486d52.png

3. 将weighted sum的结果放进激活函数中

609fe651eb10d6059f851de267cdd0a3.png

最后大于0的值全部判断为1,小于0的值全部判断为0,结束

感知机能用在哪

感知机就是没有感情的二分类机器,适用于一切二分类问题。例如买不买房,是不是诈骗犯,有没有得病,要不要买这支股票

下节预告:下节会介绍激活函数,将perceptron变强的男人

68f2ea166d78305344fc4d0df507548a.png
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值