三分钟了解一下深度学习

什么是深度学习

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。深度学习是无监督学习的一种。 深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。

深度学习通过建立类似人脑的分层模型结构, 对输入数据逐级提取从底层到高层的特征， 从而能很好地建立从底层信号到高层语义的映射关系。

深度学习的实质

深度学习的实质，是通过构建具有很多隐层的机器学习模型和海量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。所以，“深度模型”是手段，“特征学习”是目的。

区别于传统的浅层学习，深度学习的不同在于：1）强调了模型结构的深度，通常有5层、6层、甚至10多层的隐层节点；2）明确突出了特征学习的重要性，也就是说，通过逐层特征变换，将样本在原空间的特征表示变换到一个新特征空间，从而分类或预测更加容易。

深度学习和机器学习的区别

机器学习是一种实现人工智能的方法，也是人工智能的核心。深度学习是一种实现机器学习的技术，深度学习是机器学习的一种。深度学习与机器学习的主要区别是在于性能。当数据量很少的时候，深度学习的性能并不好，因为深度学习算法需要大量数据才能很好理解其中蕴含的模式。

1.数据依赖
深度学习与机器学习的主要区别是在于性能。当数据量很少的时候，深度学习的性能并不好，因为深度学习算法需要大量数据才能很好理解其中蕴含的模式。

2.硬件支持
深度学习算法严重依赖高端机，而传统的机器学习算法在低端机上就能运行。深度学习需要 GPUs 进行大量的矩阵乘法运算。

3.特征工程
特征工程就是将领域知识输入特征提取器，降低数据复杂度。从时间和专业性来讲，这个过程开销很高。

4.解决问题的方法
机器学习算法遵循标准程序以解决问题。它将问题拆分成数个部分，对其进行分别解决，而后再将结果结合起来以获得所需的答案。深度学习则以集中方式解决问题，而不必进行问题拆分。

5.执行时间
由于深度学习中含有非常多的参数，较机器学习而言会耗费更多的时间。机器学习在训练数据的时候费时较少，同时只需几秒到几小时。

6.可解释性

深度学习的应用

• 语音识别
• 图像识别
• 自然语言处理NLP
• 搜索广告CTR预估

深度学习的具体应用场景

计算机视觉：车牌识别，人脸识别，文字识别

信息检索：搜索引擎，文本检索，图像检索

营销：自动邮件营销，目标识别

医疗诊断：癌症检测，异常检测

自然语言处理：语义分析，照片标记，在线广告投放

深度学习研发面临的重大问题

• 理论问题
  理论问题主要体现在两个方面，一个是统计学习方面的，另一个是计算方面的。
• 建模问题
  在推进深度学习的学习理论和计算理论的同时，我们是否可以提出新的分层模型，使其不但具有传统深度模型所具有的强大表示能力，而且具有其他的好处，比如更容易做理论分析。
  另外，针对具体应用问题，我们如何设计一个最适合的深度模型来解决问题？我们已经看到，无论在图像深度模型，还是语言深度模型，似乎都存在深度和卷积等共同的信息处理结构。甚至对于语音声学模型，研究人员也在探索卷积深度网络。那么一个更有意思的问题是，是否存在可能建立一个通用的深度模型或深度模型的建模语言，作为统一的框架来处理语音、图像和语言？另外，对于怎么用深度模型来表示象语义这样的结构化的信息还需要更多的研究。从人类进化的角度来看，语言的能力是远远滞后于视觉和听觉的能力而发展的。而除了人类以外，还有很多动物具有很好的识别物体和声音的能力。因此从这个角度来说，对于神经网络这样的结构而言，语言相较于视觉和听觉是更为困难的一个任务。而成功的解决这个难题对于实现人工智能是不可缺少的一步。
• 工程问题
  需要指出的是，对于互联网公司而言，如何在工程上利用大规模的并行计算平台来实现海量数据训练，是各个公司从事深度学习技术研发首先要解决的问题。

总结

深度学习带来了机器学习的一个新浪潮，受到从学术届到工业界的广泛重视，也导致了“大数据＋深度模型”时代的来临。在应用方面，深度学习使得语音图像的智能识别和理解取得惊人进展，从而推动人工智能和人机交互大踏步前进。同时pCTR这样的复杂机器学习任务也得到显著提升。如果我们能在理论、建模和工程方面，突破深度学习技术面临一系列难题，我们将大大加速推进人工智能向前发展。