人工智能基础作业_UNIT5

人工智能、机器学习、深度学习之间的关系

人工智能（AI）、机器学习（ML）和深度学习（DL）之间的关系可以理解为层次递进的关系。
人工智能是广义的概念，包括了所有能够表现出人类智能的计算机系统或程序。
而机器学习则是人工智能的一种方法或技术，它通过从大量数据中学习并改进自身的性能，从而使计算机系统能够自主进行任务处理。
深度学习则是机器学习中的一种特殊技术，通过构建多层神经网络来实现高级的特征提取和抽象，从而能够处理更加复杂和大规模的数据

神经网络与深度学习的关系

神经网络是深度学习的基础，可以说深度学习是建立在神经网络的基础上的。通俗来讲，先有神经再有思考符合直觉思考。神经网络模拟人体神经元的抽象，通过一层层节点进行数据传递。深度学习就是利用神经网络进行的特征值处理和模式识别等。

“深度学习”和“传统浅层学习”的区别和联系

很简单，深度和浅层 顾名思义，深度学习复杂度高，表达能力强，浅层学习复杂度低，表达能力弱；处理复杂问题时深度学习会有更好的效果，但是对于简单问题，浅层学习需要的时间和硬件成本会更低。

神经元、人工神经元

神经元是医学的范畴，但是高中生物也有提及，包括树突，轴突，神经递质等东西，信息传达的时候就通过神经递质传递信号，信号的传递是通过生物电。emm…只记得这么多了。人工神经元是模拟出来的一种模型，为了构建人工神经网络，人工神经元通常由输入、权重、激活函数和输出组成，通过输入和权重的加权和，经过激活函数处理，产生输出，模拟生物神经元的处理过程。

MP模型

简化的人工神经元模型，用来处理二进制的，输入是二进制，输出也是二进制。处理逻辑运算会更合适。

单层感知机（SLP）

单层感知机是一种最简单的前馈神经网络。它由一个输入层和一个输出层组成，输入层负责接收输入数据，输出层负责产生输出。SLP使用线性激活函数和阶跃函数作为激活函数，处理 二分类问题用的。

异或问题（XOR）

异或问题是一个经典的二分类问题，其中输入数据有两个特征，且只有当这两个特征中有一个为真时，输出为真，否则输出为假。异或问题在单层感知机中无法通过线性分割来解决，因此需要多层感知机等更复杂的神经网络结构来解决

多层感知机 MLP

神经元有很多层，有各式各样的激活函数，每一层的输出作为下一层的输入，但是不能逆转，这样就能提升整个网络的非线性问题的处理能力，可以用来进行语音识别，自然语言处理等。

前馈神经网络 FNN

它是一种具有向前传播的结构，信息从输入层经过一系列隐藏层传递到输出层，不允许在层之间有反向传播的连接。每一层都与前一层和后一层相连接，但层内的神经元之间没有连接。每个神经元接收来自上一层的输入，并通过激活函数对输入进行处理，产生输出作为下一层的输入。FNN的输出层通常用于产生模型的预测或输出。

激活函数 Activation Function

一种数学函数，在神经元内将输入处理为输出，然后将输出又作为下一层的输入。用激活函数可以处理多样化的、复杂的数据。上课讲了三种，百度查到了五种，列举如下：
Sigmoid函数（Logistic函数）：将输入映射到0和1之间的输出，常用于二分类问题

双曲正切函数（Tanh函数）：将输入映射到-1和1之间的输出，也常用于二分类问题。

ReLU函数（Rectified Linear Unit函数）：将负数输入映射为0，而将正数输入保持不变，常用于解决梯度消失问题和加速模型训练。

Leaky ReLU函数：与ReLU类似，但在负数输入时引入一个小的斜率，以解决ReLU中的零梯度区域问题。

Softmax函数：将输入映射为概率分布，广泛用于多分类问题，输出每个类别的概率。

其实还有一堆，本人能力有限，暂时先理解这么多。

为什么要使用激活函数？

使用激活函数的主要目的是引入非线性建模能力，使神经网络能够学习复杂的非线性关系，从而更好地适应现实世界中的复杂数据。

常用激活函数有哪些？

emm…我都写完了，给我看这个？

均方误差和交叉熵损失函数，哪个适合于分类？哪个适合于回归？为什么？

交叉熵损失函数用于分类，均方误差用于回归。
交叉熵损失函数通过最小化模型的预测概率与真实标签之间的交叉熵来优化模型的参数，会越来越接近理想值，用来分类好。
均方误差计算模型输出与真实标签之间的平方误差，并且对于不同样本的误差进行了平方惩罚。这使得均方误差对于较大的误差更加敏感，用来
房！价！预！测！（超大声）（某机器学习老师提醒我们想到回归就去想房价预测）

写在最后

一群卷子哥，不把我卷死就大家都别活好吧（doge），你们逼我的，呜呜…