AI作业5

1、人工智能、机器学习、深度学习之间的关系

        人工智能是一个宏大的愿景，目标是让机器像我们人类一样思考和行动，既包括增强我们人类脑力也包括增强我们体力的研究领域。而学习只是实现人工智能的手段之一，并且，只是增强我们人类脑力的方法之一。所以，人工智能包含机器学习。机器学习又包含了深度学习
2、神经网络与深度学习的关系

        深度学习是神经网络的进阶版，只是在模型结构及优化算法等方面有不同，因此，深度学习应包含于神经网络内。
3、“深度学习”和“传统浅层学习”的区别和联系

        浅层学习采取的是分段学习的手段，而深度学习采取的是端到端学习的手段。
4、神经元、人工神经元

         神经元，又称神经细胞，是构成结构和功能的基本单位。

        人工神经网络是受到人类大脑结构的启发而创造出来的。
5、MP模型

        对不同的输入赋予不同的权重，然后对所有输入进行线性加权求和，判断和是否超过某一阈值，超过则输出1，否则输出-1。

6、单层感知机 SLP

        单层感知机是二分类的线性分类模型，输入是被感知数据集的特征向量，输出时数据集的类别{+1,-1}。单层感知机的函数近似非常有限，其决策边界必须是一个超平面，严格要求数据是线性可分的。
7、异或问题 XOR

        异或是对两个运算元的一种逻辑分析类型，当两两数值相同时为否，而数值不同时为真。
8、多层感知机 MLP

        多层感知机是由单层感知机推广而来，最主要的特点是有多个神经元层。一般将MLP的第一层称为输入层，中间的层为隐藏层，最后一层为输出层。MLP并没有规定隐藏层的数量，因此可以根据实际处理需求选择合适的隐藏层层数，且对于隐藏层和输出层中每层神经元的个数也没有限制。
9、前馈神经网络 FNN

        第0 层叫输入层，最后一层叫输出层，其它中间层叫做隐藏层。整个网络中无反馈，信号从输入层向输出层单向传播，可用一个有向无环图表示 。
10、激活函数 Activation Function

         在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。
11、为什么要使用激活函数？

        如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，这种情况就是最原始的感知机。
12、常用激活函数有哪些？

        Sigmoid函数、Tanh函数、ReLU函数、SoftMax函数等。
13、均方误差和交叉熵损失函数，哪个适合于分类？哪个适合于回归？为什么？

        交叉熵损失函数用于逻辑回归，适用于预测概率，即分类问题模型，而均方误差损失函数用于线性回归，适用于预测数值，即回归问题模型。因为均方误差损失函数，通过预测计算预测值与真实值间的误差的平方来衡量模型的优劣，适用于回归，而交叉熵损失函数通过概率分布q来表达概率分布p的困难程度，适用于分类。