深度学习应用开发--1.1人工智能、机器学习和深度学习

（一）人工智能、机器学习和深度学习的关系

• AI>ML>DL

• 机器学习：让计算机通过算法学习，获得数据中的规律，利用规律对新样本进行预测

• 人（婴儿）通过经验总结规律识别物体；机器（计算机）通过从历史数据中总结模型预测新输入

• 

（二）机器学习的学习形式分类

• 有监督学习（supervised learning）：输入的数据含有正确输出（区分方法）的标签，以便被输入某个数据时，能得到相应的正确输出

适用于：线性回归问题

 

• 无监督学习（unsupervised learning）：自己学习，不告诉机器数据的类别。其目的是让计算机从数据中找出数据的模式和规则。

适用于：关联规则抽取案例

 

• 半监督学习（semi-supervised learning）：数据一部分有标记，另一部分没有标记。没有标记的数据数量大大超过有标记的。（标记数据工作量很多）；通过局部标记的数据，总结规律，然后推广到无标记的数据中。
• 强化学习（reinforcement learning）：让计算机自己不断去尝试，错误则惩罚、正确则奖励（马戏团训练动物）；它虽然没有数据标记，但是有个延迟奖励机制，强调基于环境而行动

（三）神经网络

1、神经元模型

• 将神经元组合在一起，每个看成节点，组成更加复杂的升级网络

• 隐藏层为1层：单层神经网络；
• 通常研究一个问题时，输入、输出层的节点数固定、隐藏层的层数和节点数可自由变化

2、全连接网络：当前层的每个节点与前一层（或后一层）的每个节点都相连

3、激活函数：对前面的结果z做一个非线性化的处理a=f（z）

常见激活函数：

• S型函数（输出介于0-1之间）

• 修正线性单元激活函数（ReLU）