【22-23 春学期】AI作业5-深度学习基础

1.人工智能，机器学习，深度学习之间的关系

人工智能是一个非常广义的概念，它包括所有与智能相关的技术和应用。

机器学习是实现人工智能的一种方法。

深度学习是机器学习的一个分支，使用深度神经网络来实现自动化学习和预测分析。

2.神经网络与深度学习的关系

神经网络是一种数学模型，由一个或多个神经元组成，可以通过对输入数据的处理来进行分类，回归或者聚类任务。

深度学习则是基于神经网络的一种特殊形式，是一种通过组合多个神经元层来构建更加复杂的模型，从而实现对大规模数据进行学习和推断的方法。

3.“深度学习”和“传统浅层学习”的区别和联系

区别：深度学习模型通常具有多个隐藏层，这是其深度的来源，而传统浅层学习模型通常只有一个或很少的隐藏层。深度学习模型通过增加层数，能够学习更多层次、更抽象的特征表示，从而提高模型的表达能力。

联系：深度学习和传统浅层学习都是机器学习的分支，都使用数据来进行预测和分类。

4.神经元、人工神经元

神经元是生物神经系统的基本单位。

人工神经元是对神经元的抽象和模拟，是神经网络模型的基本组成单元。可以接收输入信号，处理信息，产生输出信号。人工神经元通常由多个出入端口和一个输出端口组成。

5.MP模型

MP模型是指最大后验概率模型，也称为最大似然估计模型。它是统计学和机器学习中常用的一种参数估计方法。

MP模型的神经元有两种状态，分别为激活（active）和抑制（inactive）状态。当神经元接收到的输入信号超过了一个阈值时，它就会被激活，产生一个输出信号，否则它就处于抑制状态，不产生输出信号。

6.单层感知机 SLP

 单层感知机是一种最简单的人工神经网络模型，基于线性分类器的模型，可以用于解决二分类问题。

7.异或问题 XOR

异或问题是一个在传统浅层神经网络中无法解决的问题。解决异或问题的方法是使用多层神经网络，比如多层感知机。

8.多层感知机 MLP

多层感知机是一种人工神经网络模型，由多个神经元层组成，其中包括输入层、隐藏层和输出层。

9.前馈神经网络 FNN

前馈神经网络是一种最常见和基础的人工神经网络模型。它也被称为前向神经网络或递归神经网络。

10.激活函数 Activation Function

激活函数是人工神经网络中的一种非线性函数，用于在神经元中引入非线性变换，增加模型的表达能力和拟合能力。激活函数通常被应用于神经网络的隐藏层和输出层。

11.为什么要使用激活函数？

激活函数的使用是为了引入非线性、增加模型表达能力、解决线性不可分问题、实现梯度传播和控制输出范围等目的。

12.常用激活函数有哪些？

sigmoid函数：

ReLU函数：

tanh函数：

13.均方误差和交叉熵损失函数，哪个适用于分类？那个适用于回归？为什么？

 交叉熵损失函数适合于分类问题，均方误差适合于回归问题。

交叉熵损失函数适合分类问题，因为它能够衡量预测类别分布与真实类别分布之间的差异。均方误差损失函数适合回归问题，因为它能够衡量预测值与真实值之间的差异。选择合适的损失函数可以帮助优化模型并使其更好地适应不同的任务和数据特点。