1.人工智能、机器学习、深度学习之间的关系
人工智能是一个领域,机器学习是人工智能领域所研究的一部分,深度学习是机器学习中的一种方法,它们是逐层包含关系。
其中机器学习和深度学习的区别,在于机器学习多了人工特征提取这一步,而深度学习完全靠机器。
2.神经网络与深度学习的关系
神经网络是模型,深度学习是方法,多层神经网络模型,可以看成使用了深度学习的方法。
3.“深度学习”和“传统浅层学习”的区别和联系
区别:深度学习采用了多层神经网络模型,具有更多的隐藏层,而传统浅层学习只用了一层神经网络,它无法解决异或问题,而深度学习,解决了异或问题。
联系:深度学习建立在传统浅层学习基础之上,都是机器学习中的方法。
4.神经元、人工神经元
神经元:神经系统最基本的结构和功能单位
人工神经元:将神经元进行数学上的抽象,得到人工神经元模型,把神经元树突接收到的不同信号当作不同的xi变量,并为不同的信号赋予不同的传输权重wi。每个变量根据权重进行线性累加,然后经过一个激活函数f得到一个新值,这个值就是输出y。
5.MP模型
对不同的输入赋予不同的权重,然后对所有输入进行线性加权求和,判断和是否超过某一阈值,超过则输出1,否则输出-1。
6.单层感知机 SLP
由一个输入层一个输出层构成,在MP模型的基础上引入偏置b,即构成了单层感知机,可以用于区分线性可分数据。
7.异或问题 XOR
异或:相同为零(一类),不同为一(另一类),异或问题线性不可分
8.多层感知机 MLP
包含一个输入层,一个输出层,一个或多个隐藏层,隐藏层处于中间,对外部不可见。
9.前馈神经网络 FNN
接收前一级的输入,并输出到下一级,模型中没有反馈,其中层间全连接,层内无连接
10.激活函数 Activation Function
激活函数一般都是非线性的,用于对输入函数进行非线性变换,如Sigmoid函数,在神经网络中引入非线性,从而强化网络的学习能力。一下为常见的几种激活函数:
11.为什么要使用激活函数?
为了使神经网络符合常见的大多数数据分布,强化网络的学习能力。
12.常用激活函数有哪些?
Sigmoid函数、Tanh函数、ReLU函数、SoftMax函数等
13.均方误差和交叉熵损失函数,哪个适合于分类?哪个适合于回归?为什么?
均方误差损失函数适用于回归,交叉熵损失函数适用于分类。因为均方误差损失函数,通过预测计算预测值与真实值间的误差的平方来衡量模型的优劣,适用于回归,而交叉熵损失函数通过概率分布q来表达概率分布p的困难程度,适用于分类。