深度学习入门指南

           最近开始接触深度学习和人工智能相关的内容，在此整理一下一些学习资源和入门指导。人有记忆能力和运算能力，计算机有学习能力和思考能力，要真正地通过图灵测试，计算机必须具备理解语言、学习、记忆、推理、决策的能力。这也延伸到很多不同的学科，比如机器感知（计算机视觉、自然语言处理），学习（模式识别、机器学习、增强学习），记忆（知识表示），决策（规划、数据挖掘）等。所有这些分支学科都可以看成是人工智能的研究范畴。

            人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人们对文本图像的理解无法从字符串或者图像的底层特征直接获得，它需要使用人们日常生活中积累的大量经验和知识来进行推理和判断。机器学习的主要目的是设计和分析一些学习算法，让计算机从数据中获得一些决策函数，从而帮助人们解决一些特定任务，提高效率。机器学习是人工智能的一个分支，其目的在于使得机器可以根据数据进行自动学习，通过算法使得机器能从大量历史数据中学习规律从而对新的样本进行决策。机器学习最开始的是浅层学习，1980年提出了神经网络，1995加入了支持向量机SVM，2006年提出了深度学习的概念。人工神经网络简称神经网络，是众多机器学习算法中比较接近生物神经网络特性的数学模型。人工神经网络通过模拟生物神经网络的结构和功能，有大量的节点和之间的相互连接构成，可以用来对数据之间的复杂关系进行建模。

            深度学习主要以人工神经网络模型为基础，由人工神经元以及之间的连接构成。人工神经元一般采用非线性激活函数。神经元网络是在计算机上把虚拟的神经元排列成层状，模拟真的神经元细胞之间的电信号。借此实现大脑从各式各样的数据中提取本质概念的功能。所谓的“深度”是指网络层数大于1，通常把神经元深化到4-9层，实现接近于大脑的功能。

           在深度学习的革命进程中，谷歌使用了10亿个参数，输入了从1000万个YouTube视频中截取的图像，通过1.6万个CPU并行处理的大规模计算，耗费了一周时间实施了训练。那么深度学习是有很多特点的，参数过多，影响训练，非凸优化问题，下层参数比较难调，参数解释起来比较困难，计算资源要求大，数据量要多，算法效率要好，很快收敛。

          现在的一个硬件配置是：

•主流配置:

•Four GTX1080GPUs with 8GB of memory per GPU

•64GB DDR4