深度学习是机器学习的一个子领域,机器学习则为人类实现人工智能的一个途径。
神经网络是实现深度学习的主要方法,传统机器学习是关于数据,模型,优化,在深度学习中我们只关心一种模型那就是神经网络。学习深度学习就是学习优化,有⼀个带有参数的模型,我们想要找到那些能拟合数据的最好模型。
我们从线性模型开始,最简单的模型感知机也叫做一个神经元,然后多个神经元就有了线性回归的模型。
现在我们把多个神经元的一层称之为layer,再把layer变成都层,就有了mlp多层感知机。
这样就得到了深层网络,根据链接的不同如全连接或dropout等,激活函数不同relu函数sigmoid函数,还有加入不同的处理如池化层,padding等形成不同的模型如cnn,rnn等。
学习深度学习就是学习如何利用这些方法使自己的神经网络能拟合出最好的模型。