深度学习-30: 基础CNN模型和深度学习模型

深度学习-30: 基础CNN模型和深度学习模型

深度学习原理与实践(开源图书)-总目录,建议收藏,告别碎片阅读!

1 神经元

人脑是生物进化和造物主的杰作,目前我们对微观人脑的知识可能比宏观的天文知识还要少。在众多人脑模型中,神经网络模型独树一帜。生物神经系统的基本结构和功能单位是神经元(神经细胞),而神经元的活动和信息在神经系统中的传输则表现为一定的生物电变化及其传播。神经元通过树突接收到外部信号,然后对信号作出反应,要么通过轴突激发一个冲动,向回路中相邻的神经元发出信号,要么相反,不发出信号。神经元基本工作模式有:

  • 神经元接收来自外界或其他神经元的n个输入信号;
  • 当神经元的累积电位大于某个阀值,神经元处于激活状态;
  • 当神经元的累积电位低于某个阀值,神经元处于抑制状态;
  • 当神经元处于激活状态时,就会向相连的神经元发送化学物质;
  • 神经元与同层的神经元不建立连接,神经元与相邻层神经元建立连接;
  • 神经元的激活方式可以用多种激活函数描述。

2 神经网络

最新的神经科学研究表明,大脑皮质负责感官感知,认知从视觉物体到抽象概念和控制活动,以及空间定位到理性思考的推理和语言。大脑皮质的结构包含6层从I层到VI层, II层和III层的神经元轴突会投射到大脑新皮质的其他部位。V层和VI层的轴突主要建立大脑皮质外部与丘脑、脑干和脊髓的联系。IV层神经元接收大脑皮质外部(丘脑)神经元的突触联系。
1978年神经科学学家弗农.蒙卡斯尔,通过实验观察到大脑皮质基础结构的稳定的一致性,并假定它是由不断重复的皮质柱(Cortical Column)构成。
老鼠天生就会打洞,蜘蛛天生就会知网,雄鹰天生就会飞翔,苍龙天生向往大海。毋庸置疑,动物的进化行为是个群体学习的过程,进化的成果通过DNA遗传给下一代。大脑皮质的作用是大大缩短了学习过程。
神经网络试图基于上述模型,简化的模拟人脑。神经网络的设计包含以下主要元素:

  • 多层结构:输入层,隐藏层和输出层,隐藏层至少一层;
  • 出生阶段:未加训练的神经网络输出时随机的,神经网络的初始连接和突触强度是随机的;
  • 成长阶段:神经网络通过大量已经标记的数据完成训练过程;
  • 工作阶段:利用已有模型,计算预期的输出。

神经网络模型出现后,在机器视觉、语音处理、机器人等领域取得一定成果,逐渐成为现在人工智能的基础。

3 卷积神经网络

大脑皮质很多功能区是分层工作的,例如:研究表明视觉皮质分成V1,V2,MT和V5层级。更深入的研究表明视觉皮质是一个精致的特征提取器;V1负责识别事物的基本线条和初始形状;V2负责识别物体的轮廓和空间定位;V5负责识别抽象物体和抽象概念;层级越高处理,大脑皮质处理的信息越抽象,处理信息调用的区域越多,处理所需的时间也越长;层级之间显现双向流通的数据流向。

卷积神经网络特别是多层神经网络(至少5层),可以用来模拟视觉皮质的工作原理。卷积神经网络只有三层时也可以正常工作,但是无法模拟视觉皮质的层级关系。

  • 5层卷积神经网络包含输入层,3个卷积隐藏层和输出层。
  • 第一层卷积提取物体的初级特征
  • 第二层卷积提取物体的中级特征
  • 第三层卷积提取物体的抽象特征
  • 卷积具有平移和旋转不变形,是良好的特征提取器
  • 卷积神经网络还需要配合其他技巧(正则化和稀疏化)才能模拟视觉皮质。

4 基础人工智能算法

一生二、二生三、三生无穷。神经网络是人工智能启蒙,卷积神经网络是人工智能的里程碑,卷积神经网络最终演化出各种使用的基于卷积神经网络的人工智能算法。

目前基于卷积神经网络的人工智能算法逐渐和基于其他机器学习的人工智能拉开一个档次。基于卷积神经网络的人工智能算法在图像处理,语音处理,多语种翻译,对话系统,电子商务,大数据,机器人和自动驾驶等领域形成领先优势。

本章主要介绍以下基础人工智能算法:

  • 单层感知机
  • 多层感知机
  • 卷积神经网络
  • 深度学习
  • 神经网络优化技巧

系列文章

参考文献

  • [1] Ian Goodfellow, Yoshua Bengio. Deep Learning. MIT Press. 2016.
  • [2] 焦李成等. 深度学习、优化与识别. 清华大学出版社. 2017.
  • [3] 佩德罗·多明戈斯. 终极算法-机器学习和人工智能如何重塑世界. 中信出版社. 2018.
  • [4] 雷.库兹韦尔. 人工智能的未来-揭示人类思维的奥秘. 浙江人民出版社. 2016.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值