这个专栏主要是想和大家分享一下深度学习的基础知识,主要是以吴恩达老师深度学习课程内容作为基础,并补充了很多其他内容希望让整体内容更加容易理解和系统化。如果想要了解具体专栏里面有什么内容的话,可以看一看我们专栏的目录,在目录里面还说明了小伙伴的分工,这些内容都是所有小伙伴们一起努力完成的,有希望和我们一起学习的的小伙伴也可以加入我们啊。另外我们还将内容以书籍的形式放到了github上,之后还会陆续上传源码实现等其他内容。我们还会分享深度学习-论文阅读专栏、强化学习-基础知识专栏、强化学习-任务阅读专栏,也欢迎大家关注。可能会有很多错漏,希望大家批评指正!还是那句话,不要高估一年的努力,也不要低估十年的积累,与君共勉!
深度学习基础介绍
1.简述深度学习
深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向,它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。
深度学习是模仿人脑的“神经网络“建立一个类似的学习策略(如下图),基于大量的数据进行训练和学习,在这个过程中不断修改模型的参数,得到的一个更好的模型,使得这个模型能类似于人,可以识别和处理一些问题,这就是其学习性,并且有些模型的能力甚至能够超越人类的水平。
深度学习的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。
深度学习最近几年才火起来,看似比较新,其实早在上个世纪已被提出,但当时由于硬件等因素,深度学习并没有引起很多人的关注和研究。如今随着各个领域的发展,深度学习有了一定的发展前提和基础,不断地有研究者和从业者投入其中,进行研究和应用。在工业以及其他应用场景下,深度学习训练的模型为人们带来了更方便的生活,为企业带来更多的利润以及更多的剩余价值。
2.为什么深度学习会兴起
深度学习和神经网络之前的基础技术理念已经存在大概几十年了,为什么它们现在才突然流行起来呢?
如上图,横轴为数据量,纵轴为模型的性能。可以看出,它的性能一开始在增加更多数据时会上升,但是一段变化后就会像高原一样,没有大的改变。
而在过去的几十年里,训练模型的数据集非常小,当时的人们难以收集并且构建足够大,有效的数据集,从而导致模型没有充足地得到训练。随着数字化社会的来临,现在的数据量非常巨大,制作有效的数据集变得容易许多,因而模型能够得到充足的训练,这也是深度学习兴起的一大重要原因。
同时,无论在CPU上还是GPU上,都不断发展,使得高计算量的深度学习模型能够更快的得到训练,以往需要训练两个月的数据量,现在只需三天就能完成。尤其是在最近几年,算法方面有着极大的创新。许多算法方面的创新,本质上是在尝试让神经网络运行的更快。
3.深度学习和机器学习以及人工智能之间的关系
4.学习深度学习需要什么前置知识
要有比较基本的高数和线性代数的知识
编程语言:python(其中学习中需要用到的库可以自己的看一下)
最好有机器学习的基础,当然如果没有直接学习也没有什么影响(笔者建议可以有时间可以的看一下)