1、人工智能、机器学习、深度学习之间的关系
人工智能是一种研究如何使计算机能够像人类一样思考和行动的技术。 机器学习是实现人工智能的一种方法,它是让计算机从数据中学习,而不是通过编程来实现。 深度学习是机器学习的一种,它是一种通过构建多层神经网络来模拟人脑神经元之间的连接方式,从而实现对数据的学习和理解。因此,可以说深度学习是机器学习的一种,而机器学习又是实现人工智能的一种方法。
2、神经网络与深度学习的关系
深度学习其实算是神经网络的延伸,和神经网络一样,深度学习也是一个算法的集合,只不过这里的算法都是基于多层神经网络的新的算法。
神经网络是深度学习的基础,通过多个神经元的连接,从理论上可以拟合任意函数。所以说深度学习和神经网络是密不可分的关系。
3、“深度学习”和“传统浅层学习”的区别和联系
浅层学习和深度学习的区别在于:深度学习强调模型结构的深度,通常有5层、6层,甚至10多层的隐层节点;明确突出了特征学习的重要性,通过逐层特征变换,将样本在原空间的特征表示变换到一个新特征空间,从而使分类或预测更加容易。浅层学习是指只有一层隐含层的神经网络,如感知机、BP神经网络等。浅层学习只能处理线性可分问题,而深度学习可以处理非线性可分问题。
4、神经元、人工神经元
神经元是神经系统的基本单位,是一种特殊的细胞。人工神经元是人工神经网络中的基本单元,是一种数学模型。人工神经元接收一个或多个输入,并将它们相加以产生输出(或激活,代表沿其轴突传递的神经元的动作电位)。 人工神经元的输入和输出可以是数字、二进制或其他离散值。生物神经元和人工神经元之间的区别在于,生物神经元具有更复杂的结构和功能,而人工神经元是一种简化的模型。
5、MP模型
M-P模型是神经元模型之一,是由美国神经生理学家沃伦·麦卡洛克和数学家沃尔特·皮茨于1943年提出的。 它是首个通过模仿神经元而形成的模型。M-P模型是一个多输入单输出的信息处理单元,它具有空间整合特性和阈值特性(兴奋和抑制,超过阈值为兴奋,低于是抑制)。 神经元输入分兴奋性输入和抑制性输入两种类型。 为了使得建模更加简单,以便于进行形式化表达,我们忽略时间整合作用、不应期等复杂因素,并把神经元的突触时延和强度当成常数。
6、单层感知机 SLP
单层感知机是一种二分类的线性分类模型,输入是被感知数据集的特征向量,输出时数据集的类别{+1,-1}。单层感知机的函数近似非常有限,其决策边界必须是一个超平面,严格要求数据是线性可分的。它是由美国心理学家罗森布拉特于1957年提出的。
7、异或问题 XOR
异或问题是指在二维平面上,无法用一条直线将两类数据分开。 这是因为异或问题不是线性可分的,即不能用单层感知机解决。但是,多层感知机可以解决异或问题。
8、多层感知机 MLP
多层感知机是一种前向结构的人工神经网络,包含输入层、输出层及多个隐藏层。多层感知机的优点是可以解决异或问题,即非线性可分问题。 但是,多层感知机的缺点是容易过拟合。
9、前馈神经网络 FNN
前馈神经网络是一种最简单的神经网络,也叫全连接神经网络。前馈神经网络的特点是信息只能从输入层流向输出层,不会出现环路。 前馈神经网络的优点是可以解决线性可分问题。 但是,前馈神经网络的缺点是不能解决异或问题,即非线性可分问题。
10、激活函数 Activation Function
激活函数是一种添加到人工神经网络中的函数,旨在帮助网络学习数据中的复杂模式。在计算网络中,一个节点的激活函数定义了该节点在给定的输入或输入的集合下的输出。 激活函数可以是线性或非线性的,但通常是非线性的。 激活函数的主要作用是引入非线性特性,使神经网络可以学习和理解非常复杂和非线性的函数。
11、为什么要使用激活函数?
激活函数在神经网络中有以下优点
引入非线性特性,使神经网络可以学习和理解非常复杂和非线性的函数。
增强网络的表示能力和学习能力。
使神经网络可以逼近任意复杂的函数。
防止梯度消失,使神经网络可以更好地训练。
12、常用激活函数有哪些?
常见的激活函数有sigmoid、tanh、ReLU、Leaky ReLU等。其中,ReLU是最常用的激活函数之一,因为它可以加速神经网络的训练速度。
13、均方误差和交叉熵损失函数,哪个适合于分类?哪个适合于回归?为什么?
均方误差损失函数通常用于回归问题,而交叉熵损失函数通常用于分类问题。这是因为交叉熵损失函数可以更好地衡量分类问题中的错误率,而均方误差损失函数则更适合衡量回归问题中的误差。