深度学习-绪论

第一讲-绪论

1. 人工智能的三个层面

   计算智能：能存能算

   感知智能：能听会说，能看会认，类似于人的视觉、听觉、触觉等感知能力

   认知智能：能理解，思考，决策，概念意识观念都是认知智能的表现

2. 人工智能&机器学习&深度学习

   从范围来看，人工智能>机器学习>深度学习。

   传统的知识过程相对于机器学习，结果容易解释，但是系统构建费时费力，依赖专家的主观意见；而机器学习基于数据自动学习减少人工繁杂工作，但结果可能不易解释提高信息处理的效率，准确率较高来源于真实数据，减少人工规则主观性，可信度高。

   

3. 传统机器学习VS深度学习

   传统机器学习对特征提取的要求很高，经常要对特征进行复杂的提取、选择等操作。

   例如针对物体检测，传统机器学习需要：标注数据、提取特征、分类。

   其中特征提取需要大量的时间于精力以选择合适的特征提取方式。

   而深度学习需要：标注数据、选择模型、设定超参、运行模型。

   其中标注的数据要远多于传统机器学习，但是免去了复杂的人工特征提取工作。深度学习在未来可能会减小数据标注量，由zero-shot或者few-shot完成指定任务。

4. 深度学习发展史

   • 1957年，康奈尔大学Rosenblatt提出感知机(Perceptron)；

   • 1969年，Minsky提出Perceptron的两大问题：单层Perceptron无法解决异或问题；计算量过大；

   • 1986年，Hinton提出了BP算法，有效降低了计算量，使得计算量与神经元数目成正比；

   • 1989年，Lecun提出CNN，成功应用于支票数字检测；

   • 1993年，黄仁勋成立Nvidia；

   • 2006年，Hinton提出了限制玻尔兹曼机(RBN)；

   • 2009年，吴恩达发现GPU对深度学习计算的加速作用；

   • 2009年，ImageNet发布；

   • 2011年，RELU激活函数发表；

   • 2012年，Alex与Hinton参加ImageNet竞赛，大幅超越传统机器学习算法；

   • 2012年，Alex与Hinton参加ImageNet竞赛，大幅超越传统机器学习算法；