深度学习简述（个人理解笔记）

        深度学习问题是一个机器学习问题。指的是从有限样例中通过算法总结出一般性的规律，并可以应用到新的未知的数据上，比如，我们可以从一些历史病例的集合中总结出症状和疾病之间的规律。这样，当有新的病人时，我们就可以根据总结出来的规律，来判断病人得的什么病。

        其次，深度学习采用的模型一般比较复杂，指样本的原始输入到输出目标之间的数据流经过多个线性或非线性的组件（component）．因为每个组件都会对信息进行加工，并进而影响后续的组件，所以当我们最后得到输出结果时，我 们并不清楚其中每个组件的贡献是多少．这个问题叫作贡献度分配问题。在深度学习中，贡献度分配问题是一个关键问题，这关系到如何学习每个组件中的参数。

        目前，一种可以比较好的解决贡献度分配问题的模型是人工神经网络。人工神经网络简称神经网络，是一种受人脑神经系统的工作方式启发的数学模型，和目前的计算机系统结构不同，人脑神经系统是一个有生物神经元组成的搞得复杂网络，是一个并行的非线性信息处理 系统．人脑神经系统可以将声音、视觉等信号经过多层的编码，从最原始的低层 特征不断加工、抽象、最终得到原始信号的语义表示。

        传统的机器学习主要关注如何学习一个预测模型，一般需要首先将数据表示为一组特征，特征的表示形式可以是连续的数值，离散的符号，或其他形式，然后将这些特征输入到预测模型，并输出预测结果。这类机器学习可以被称为浅层学习，其主要特点是不涉及特征学习，其主要特征靠人工经验或特征转换方法来抽取．

当用机器学习解决实际任务时，会面对各种各样的数据形式，比如声音，文本，图像等。不同数据的特征构造方式差异很大，对于图像这类数据，我们可以将其表示为一个连续的变量，对于文本数据，因为其一般由离散的符号组成，并且每个符号正在计算机内部都表示为无意义的编码，所以很难找到合适的表示方式，因此，实际使用中的机器学习模型一般包含以下几个步骤：（1）数据预处理（2）特征提取（3）特征转换（4）预测。

        其中特征转换即对特征进一步的加工，比如降维和升维，降维包括特征提取和特征选择。两种途径。

        特征选择：目标是从原始的d个特征选择k个特征。

        特征抽取：特征抽取的目标是根据原始的d个特征的组合形成K个新的特征，即将数据从d维空间映射到k维空间。