神经网络浅析

翻译 2016年05月30日 20:38:55
作者:王小龙
链接:https://www.zhihu.com/question/22553761/answer/36429105
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

0. 分类
神经网络最重要的用途是分类,为了让大家对分类有个直观的认识,咱们先看几个例子:
  • 垃圾邮件识别:现在有一封电子邮件,把出现在里面的所有词汇提取出来,送进一个机器里,机器需要判断这封邮件是否是垃圾邮件。
  • 疾病判断:病人到医院去做了一大堆肝功、尿检测验,把测验结果送进一个机器里,机器需要判断这个病人是否得病,得的什么病。
  • 猫狗分类:有一大堆猫、狗照片,把每一张照片送进一个机器里,机器需要判断这幅照片里的东西是猫还是狗。
这种能自动对输入的东西进行分类的机器,就叫做分类器。

分类器的输入是一个数值向量,叫做特征(向量)。在第一个例子里,分类器的输入是一堆0、1值,表示字典里的每一个词是否在邮件中出现,比如向量(1,1,0,0,0......)就表示这封邮件里只出现了两个词abandon和abnormal;第二个例子里,分类器的输入是一堆化验指标;第三个例子里,分类器的输入是照片,假如每一张照片都是320*240像素的红绿蓝三通道彩色照片,那么分类器的输入就是一个长度为320*240*3=230400的向量。

分类器的输出也是数值。第一个例子中,输出1表示邮件是垃圾邮件,输出0则说明邮件是正常邮件;第二个例子中,输出0表示健康,输出1表示有甲肝,输出2表示有乙肝,输出3表示有饼干等等;第三个例子中,输出0表示图片中是狗,输出1表示是猫。

分类器的目标就是让正确分类的比例尽可能高。一般我们需要首先收集一些样本,人为标记上正确分类结果,然后用这些标记好的数据训练分类器,训练好的分类器就可以在新来的特征向量上工作了。

1. 神经元
咱们假设分类器的输入是通过某种途径获得的两个值,输出是0和1,比如分别代表猫和狗。现在有一些样本:
<img src="https://pic3.zhimg.com/6ecf14a96fc508a0ce2c8c9f77a89662_b.jpg" data-rawwidth="420" data-rawheight="315" class="content_image" width="420">大家想想,最简单地把这两组特征向量分开的方法是啥?当然是在两组数据中间画一条竖直线,直线左边是狗,右边是猫,分类器就完成了。以后来了新的向量,凡是落在直线左边的都是狗,落在右边的都是猫。大家想想,最简单地把这两组特征向量分开的方法是啥?当然是在两组数据中间画一条竖直线,直线左边是狗,右边是猫,分类器就完成了。以后来了新的向量,凡是落在直线左边的都是狗,落在右边的都是猫。

一条直线把平面一分为二,一个平面把三维空间一分为二,一个n-1维超平面把n维空间一分为二,两边分属不同的两类,这种分类器就叫做神经元。

大家都知道平面上的直线方程是ax+by+c=0,等式左边大于零和小于零分别表示点(x,y)在直线的一侧还是另一侧,把这个式子推广到n维空间里,直线的高维形式称为超平面,它的方程是:
h = a_1x_1+a_2 x_2+...+a_nx_n+a_0=0
神经元就是当h大于0时输出1,h小于0时输出0这么一个模型,它的实质就是把特征空间一切两半,认为两瓣分别属两个类。你恐怕再也想不到比这更简单的分类器了,它是McCulloch和Pitts在1943年想出来了。

这个模型有点像人脑中的神经元:从多个感受器接受电信号x_1, x_2,...,x_n,进行处理(加权相加再偏移一点,即判断输入是否在某条直线h=0的一侧),发出电信号(在正确的那侧发出1,否则不发信号,可以认为是发出0),这就是它叫神经元的原因。

当然,上面那幅图我们是开了上帝视角才知道“一条竖直线能分开两类”,在实际训练神经元时,我们并不知道特征是怎么抱团的。神经元模型的一种学习方法称为Hebb算法:

先随机选一条直线/平面/超平面,然后把样本一个个拿过来,如果这条直线分错了,说明这个点分错边了,就稍微把直线移动一点,让它靠近这个样本,争取跨过这个样本,让它跑到直线正确的一侧;如果直线分对了,它就暂时停下不动。因此训练神经元的过程就是这条直线不断在跳舞,最终跳到两个类之间的竖直线位置。


2. 神经网络
MP神经元有几个显著缺点。首先它把直线一侧变为0,另一侧变为1,这东西不可微,不利于数学分析。人们用一个和0-1阶跃函数类似但是更平滑的函数Sigmoid函数来代替它(Sigmoid函数自带一个尺度参数,可以控制神经元对离超平面距离不同的点的响应,这里忽略它),从此神经网络的训练就可以用梯度下降法来构造了,这就是有名的反向传播算法。

神经元的另一个缺点是:它只能切一刀!你给我说说一刀怎么能把下面这两类分开吧。
<img src="https://pic3.zhimg.com/28cd0de61975718f36ae5b9f80de4e4a_b.jpg" data-rawwidth="420" data-rawheight="315" class="content_image" width="420">解决办法是多层神经网络,底层神经元的输出是高层神经元的输入。我们可以在中间横着砍一刀,竖着砍一刀,然后把左上和右下的部分合在一起,与右上的左下部分分开;也可以围着左上角的边沿砍10刀把这一部分先挖出来,然后和右下角合并。解决办法是多层神经网络,底层神经元的输出是高层神经元的输入。我们可以在中间横着砍一刀,竖着砍一刀,然后把左上和右下的部分合在一起,与右上的左下部分分开;也可以围着左上角的边沿砍10刀把这一部分先挖出来,然后和右下角合并。

每砍一刀,其实就是使用了一个神经元,把不同砍下的半平面做交、并等运算,就是把这些神经元的输出当作输入,后面再连接一个神经元。这个例子中特征的形状称为异或,这种情况一个神经元搞不定,但是两层神经元就能正确对其进行分类。

只要你能砍足够多刀,把结果拼在一起,什么奇怪形状的边界神经网络都能够表示,所以说神经网络在理论上可以表示很复杂的函数/空间分布。但是真实的神经网络是否能摆动到正确的位置还要看网络初始值设置、样本容量和分布。

神经网络神奇的地方在于它的每一个组件非常简单——把空间切一刀+某种激活函数(0-1阶跃、sigmoid、max-pooling),但是可以一层一层级联。输入向量连到许多神经元上,这些神经元的输出又连到一堆神经元上,这一过程可以重复很多次。这和人脑中的神经元很相似:每一个神经元都有一些神经元作为其输入,又是另一些神经元的输入,数值向量就像是电信号,在不同神经元之间传导,每一个神经元只有满足了某种条件才会发射信号到下一层神经元。当然,人脑比神经网络模型复杂很多:人工神经网络一般不存在环状结构;人脑神经元的电信号不仅有强弱,还有时间缓急之分,就像莫尔斯电码,在人工神经网络里没有这种复杂的信号模式。

<img src="https://pic2.zhimg.com/df53fac99fc53ba5a90666abcca25e6d_b.jpg" data-rawwidth="300" data-rawheight="225" class="content_image" width="300">

神经网络的训练依靠反向传播算法:最开始输入层输入特征向量,网络层层计算获得输出,输出层发现输出和正确的类号不一样,这时它就让最后一层神经元进行参数调整,最后一层神经元不仅自己调整参数,还会勒令连接它的倒数第二层神经元调整,层层往回退着调整。经过调整的网络会在样本上继续测试,如果输出还是老分错,继续来一轮回退调整,直到网络输出满意为止。这很像中国的文艺体制,武媚娘传奇剧组就是网络中的一个神经元,最近刚刚调整了参数。

3. 大型神经网络

我们不禁要想了,假如我们的这个网络有10层神经元,第8层第2015个神经元,它有什么含义呢?我们知道它把第七层的一大堆神经元的输出作为输入,第七层的神经元又是以第六层的一大堆神经元做为输入,那么这个特殊第八层的神经元,它会不会代表了某种抽象的概念?

就好比你的大脑里有一大堆负责处理声音、视觉、触觉信号的神经元,它们对于不同的信息会发出不同的信号,那么会不会有这么一个神经元(或者神经元小集团),它收集这些信号,分析其是否符合某个抽象的概念,和其他负责更具体和更抽象概念的神经元进行交互。

2012年多伦多大学的Krizhevsky等人构造了一个超大型卷积神经网络[1],有9层,共65万个神经元,6千万个参数。网络的输入是图片,输出是1000个类,比如小虫、美洲豹、救生船等等。这个模型的训练需要海量图片,它的分类准确率也完爆先前所有分类器。纽约大学的Zeiler和Fergusi[2]把这个网络中某些神经元挑出来,把在其上响应特别大的那些输入图像放在一起,看它们有什么共同点。他们发现中间层的神经元响应了某些十分抽象的特征。

第一层神经元主要负责识别颜色和简单纹理
<img src="https://pic4.zhimg.com/cbd8ee99581d1a2e22dca8b0e67f84b3_b.jpg" data-rawwidth="779" data-rawheight="422" class="origin_image zh-lightbox-thumb" width="779" data-original="https://pic4.zhimg.com/cbd8ee99581d1a2e22dca8b0e67f84b3_r.jpg">
第二层的一些神经元可以识别更加细化的纹理,比如布纹、刻度、叶纹。
<img src="https://pic4.zhimg.com/78fd60058ceabf34d3936ac8fe618c77_b.jpg" data-rawwidth="1060" data-rawheight="531" class="origin_image zh-lightbox-thumb" width="1060" data-original="https://pic4.zhimg.com/78fd60058ceabf34d3936ac8fe618c77_r.jpg">

第三层的一些神经元负责感受黑夜里的黄色烛光、鸡蛋黄、高光。
<img src="https://pic3.zhimg.com/aae832d13b33f15ba97c358fdf7319d2_b.jpg" data-rawwidth="1058" data-rawheight="537" class="origin_image zh-lightbox-thumb" width="1058" data-original="https://pic3.zhimg.com/aae832d13b33f15ba97c358fdf7319d2_r.jpg">
第四层的一些神经元负责识别萌狗的脸、七星瓢虫和一堆圆形物体的存在。
<img src="https://pic4.zhimg.com/04468c646e0d456b0fd4772d4e2a993b_b.jpg" data-rawwidth="1058" data-rawheight="489" class="origin_image zh-lightbox-thumb" width="1058" data-original="https://pic4.zhimg.com/04468c646e0d456b0fd4772d4e2a993b_r.jpg">
第五层的一些神经元可以识别出花、圆形屋顶、键盘、鸟、黑眼圈动物。
<img src="https://pic3.zhimg.com/ab6984020030ff15f9ddb3eb716c7da6_b.jpg" data-rawwidth="1060" data-rawheight="601" class="origin_image zh-lightbox-thumb" width="1060" data-original="https://pic3.zhimg.com/ab6984020030ff15f9ddb3eb716c7da6_r.jpg">

这里面的概念并不是整个网络的输出,是网络中间层神经元的偏好,它们为后面的神经元服务。虽然每一个神经元都傻不拉几的(只会切一刀),但是65万个神经元能学到的东西还真是深邃呢。


神经网络的简单理解

斯坦福大学的印度学生、机器学习爱好者 PararthShah 在2012年12月22日的使用买芒果的例子解释了神经网络,简单来说就是:如果你需要选芒果,但不知道什么样的芒果最好吃,一个简单粗暴的方法是...
  • hellfire2007
  • hellfire2007
  • 2016年10月21日 14:35
  • 1225

神经网络的简单理解

声明:本篇文章根据一些知乎网友的讨论整理得到,在这里感谢他们通俗易懂的说明。   斯坦福大学的印度学生、机器学习爱好者 PararthShah 在2012年12月22日的使用买芒果的例子解释了神经网...
  • u010182633
  • u010182633
  • 2015年05月12日 15:18
  • 2741

神经网络与高级思维

神经网络与高级思维作者:王慧东E_mail:huidong@163.com [摘要] 本文从生物神经元的角度简单阐述了人脑高级思维的形成机制。通过对反射、认知、创造等概念的重新定义,全面的解析人脑的工...
  • casularm
  • casularm
  • 2006年03月27日 15:44
  • 1670

精进-向未知的无限逼近

思维才是一个人真正的利器。一个人往往因为思维而与别人不同。 介绍几种锻炼思维的方法:简化思维、利用潜意识工作、图解思考、周密思考。 简化思维 我们每天都要面临各种各样的信...
  • qq_35624642
  • qq_35624642
  • 2017年03月07日 23:44
  • 190

机器学习:如何理解神经网络可以用来解决复杂的非线性函数

我们知道神经网络里面有很多的层,每一层又有很多的神经元。看起来就非常复杂,似乎输入与输出都很凌乱,对它的理解也很难。那么我们可以从单个神经元入手,考虑单个神经元的输入与输出之间的关系,再扩展到整个神经...
  • liweibin1994
  • liweibin1994
  • 2017年07月23日 17:16
  • 503

简单有趣介绍神经网络

作者:王小龙 链接:http://www.zhihu.com/question/22553761/answer/36429105 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业...
  • prom1201
  • prom1201
  • 2016年06月23日 18:50
  • 671

神经网络与高级思维(二)

神经网络与高级思维(二) [ 作者:王慧东    转贴自:本站原创    点击数:11737    更新时间:2005-4-12    文章录入:冰笛 ]三、             神经网络的基本工...
  • bh812
  • bh812
  • 2005年12月06日 11:46
  • 1050

【转】机器学习入门——浅谈神经网络

【转】机器学习入门——浅谈神经网络 个人觉得很全,特别适合接触神经网络的新手。...
  • bitjoy
  • bitjoy
  • 2016年01月05日 20:24
  • 4748

浅析神经网络为什么能够无限逼近任意连续函数?

下面通过一个分类例子一步一步的引出为什么神经网络能够无限逼近任意函数这个观点,并且给出直观感觉! 我们首先有这个需求,需要将下面的数据点进行分类,将三角形与正方形正确的分开,如图所示: ...
  • zhf19891002
  • zhf19891002
  • 2017年03月15日 20:09
  • 1119

如何简单形象又有趣地讲解神经网络是什么?

神经网络很萌的! 0. 分类神经网络最重要的用途是分类,为了让大家对分类有个直观的认识,咱们先看几个例子:垃圾邮件识别:现在有一封电子邮件,把出现在里面的所有词汇提取出来,送进一个机器里,机器需...
  • BaiHuaXiu123
  • BaiHuaXiu123
  • 2016年06月06日 21:33
  • 2510
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:神经网络浅析
举报原因:
原因补充:

(最多只允许输入30个字)