多层感知机和神经网络的区别_【AI初识境】从头理解神经网络-内行与外行的分水岭...

3ff7f2024ab17a4ba1400f3b55675a46.png

这是专栏《AI初识境》的第2篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。

这一篇,我们就说说神经网络基础,包括简单历史,核心原理与技术。

作者&编辑 | 言有三

1 人工智能符号派与统计派

上一次我们讲述了人工智能的完整历史,自从图灵提出了“机器智能”,达特茅斯会议提出“人工智能”学科后,研究人员就开始活跃起来。

正所谓有人的地方就有江湖,人工智能的研究派系主要就是两大阵营。

第一大阵营,被称为符号派,他们用统计逻辑和符号系统来研究人工智能,采用自顶向下的研究思路,也就是要先看懂人工智能是什么,再去一步一步实现它。符号派用人工智能技术来证明公式,发明专家系统,代表人物有纽厄尔(Newell)、西蒙(Simon)等。

第二大阵营是统计派,现在的深度学习就属于这一派,这一派研究问题的方法就是仿造大脑,采用自底向上的思路。通过一个一个简单逻辑的搭建,搭建成一个足够复杂的系统后,系统就自然会有智能了。代表人物新时代的深度学习三大巨头Yoshua Bengio,Hinton、LeCun。

应该说,符号派的研究方法最早也更加直观,典型的例子是专家系统,它的缺陷也非常明显,必须先对所研究的问题有完整的理解,然后再通过知识编码,这对于达到一定复杂程度的问题来说根本不可能实现,不是所有知识都能一下子说出来原因的。就好比在图像中识别一只猫,到底怎样的一幅图片才是猫图,传统的图像描述算子就很难完全定义,保证覆盖到各类场景。

统计派的思路就更加务实,摆事实讲道理,通过统计学习的方法来归纳出知识,不再完全由人工干预,天然和大数据是契合的,这也是成功的必然性。

有学者一生站队在一派,也有的摇摆过,比如上次说到的马文·明斯基,就从最开始的统计派在第二次AI浪潮中转变成为了符号派,并成为了第二次低谷的重要推手。

anyway,现在是统计学派大放异彩的时候。

2 人脑与视觉感知机制

前面说了统计派是采用了模仿大脑的方式,人类花了亿万年的时间来进化,那生物的大脑究竟是如何处理视觉信息呢?

大脑的基本感知单元就是神经元,一个神经元所影响的刺激区域就叫做神经元的感受野,即receptive field,不同神经元感受野的大小和性质都不同。

感受野的研究来自于美国神经科学家哈特兰(Keffer Hartline)和匈牙利裔美国神经科学家库夫勒(Stephen W. Kuffler),1953年他们发现猫视网膜神经节细胞的感受野具有同心圆结构。

bcaf30b56f61088dcdec8802d5969369.png

如上图包括了两种感受野,第一种感受野由作用强的中心兴奋区域和作用较弱但面积更大的周边抑制区域构成了一个同心圆结构,称为On型感受野,第二类感受野是由中心抑制和周边兴奋的同心圆构成,称为Off型感受野。当刺激On型感受野中心时,细胞就兴奋,如第一列第一排的图。刺激周边时,细胞就抑制,如第一列第二排的图,Off型图则反之。

不过尽管明白了感受野,视觉感知的机制仍然没有被得到更深刻地理解,直到视觉功能柱的发现。

加拿大神经生理学家David Hunter Hubel和瑞典神经科学家Torsten Nils Wiesel在20世纪50年代和60年代开始研究视觉机制,他们将图像投射到屏幕上,将测量神经元活动的电线插入猫的大脑,通过固定猫的头部来控制视网膜上的成像,测试生物细胞对线条、直角、边缘线等图形的反应。

研究显示有些细胞对某些处在一个角度上的线条、垂直线条、直角或者明显的边缘线,都有特别的反应,这就是绝大多数视皮层细胞都具有的强烈的方位选择性。不仅如此,要引起这个细胞反应,直线的朝向还只能落在一个很小的角度范围里,也就是该细胞的感受野内。这样以上两个研究就统一起来了。

从1960年到1980年,两人合作了20多年,细致科学地研究了人眼视觉的机制,因此他们被认为是现代视觉科学之父,并于1981年一起获得了诺贝尔生理学与医学奖。

这一项研究,直接催生了David Marr的视觉分层理论,也催生了计算机视觉学科,更是卷积神经网络的发源。

3 MP模型

在生物学家,计算机科学家的共同努力下,大家摸清了人脑神经元的工作机制。

e1b3f0c33211376c1c4dbf69c771da10.png

神经元之间相互连接,当某一神经元处于“兴奋”状态时,其相连神经元的电位将发生改变,若神经元电位改变量超过了一定的数值(也称为阈值),则被激活处于“兴奋状态”,向下一级连接的神经元继续传递电位改变信息。信息从一个神经元以电传导的方式跨过细胞之间的联结(即突触),传给另一个神经元,最终使肌肉收缩或腺体分泌。

神经元通过突触的连接使数目众多的神经元组成比其他系统复杂得多的神经系统。从神经元的结构特性和生物功能可以得出结论:神经元是一个多输入单输出的信息处理单元,并且对信息的处理是非线性的。

在这个基础上,就有科学家产生了模拟神经网络的

  • 6
    点赞
  • 28
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值