AI作业5-深度学习基础-CSDN博客

本文链接：https://blog.csdn.net/ZHBNT/article/details/130207132

文章介绍了人工智能的范畴，强调了机器学习和深度学习在其中的作用。深度学习基于神经网络，通过多层结构和反向传播学习复杂模式。神经网络包含输入、隐藏和输出层，使用激活函数处理非线性关系。文章还提到了不同类型的神经网络模型，如MP模型和感知机，以及解决XOR问题的多层感知机。此外，讨论了激活函数和损失函数在训练过程中的重要性，如均方误差和交叉熵损失函数在回归和分类问题中的应用。

摘要由CSDN通过智能技术生成

人工智能是一种广泛的概念，指涉使计算机系统表现出人类智能的技术。机器学习是一种人工智能的分支，在不需要明确编程的情况下使计算机在某些任务上更好地执行，并且可以通过数据来学习并改进。深度学习是机器学习的一种形式，建立在神经网络的基础之上，并使用反向传播算法来训练多层神经网络，以提取和抽象数据特征。
神经网络是一种用于机器学习或深度学习的计算模型，它由输入层、隐藏层和输出层组成，其中每一层都包含多个神经元。隐藏层将输入转换为中间表示，而输出层则生成最终预测的结果。深度学习通常采用更复杂的神经网络结构，并涉及更多的层次和参数数量，以适应更复杂的模式和任务。
深度学习相对于传统浅层学习的主要区别在于它可以从数据中自动提取和学习多层次的特征表示，而传统浅层学习则仅能学习线性或简单的非线性关系。深度学习中的多层神经网络使用非线性激活函数来实现数据的非线性建模，这使得它们能够更好地处理复杂的数据结构，并产生更准确的预测结果。
神经元是一种在大脑中的细胞，而人工神经元是一种用于构建神经网络的数学模型，它可以将输入信号加权求和，并通过应用激活函数来产生输出。每个神经元都有一个阈值，当加权输入超过阈值时，神经元就会被“激活”，并产生输出。
MP模型是一种的神经网络模型，它模拟了生物神经元的工作原理，并使用二进制输入和输出，在网络中通过加权和阈值计算输出。MP模型适用于简单的二进制分类问题，但难以扩展到更复杂的任务。
单层感知机是一种由Frank Rosenblatt在1957年开发的神经网络模型，它可以用于二分类问题，并且能够学习线性决策边界。然而，它不能解决XOR问题，因为XOR问题无法用单一的线性决策边界来解决。
XOR问题指的是无法用单一的线性决策边界将数据分开的问题。这个问题可以通过多层感知机来解决，它包含多个隐藏层，每个隐藏层在不同的抽象级别上提取数据特征表示。多层感知机使用反向传播算法来训练神经网络，并根据损失函数的梯度来更新权重和偏置参数。
前馈神经网络是一种常见的神经网络类型，其中数据按照前向传递的方式流动，并且每一层的输出作为下一层的输入进行处理。FNN通常由几个全连接层组成，其中每个神经元都与前一层中的所有神经元相连。
激活函数用于确定神经元的输出，它通常是非线性的，并允许神经网络学习非线性关系。激活函数的主要目标是为神经网络引入非线性因素，从而具有更强的建模能力和表达能力。
使用激活函数可以增加神经网络的表达能力，允许它学习更复杂的函数关系。常用的激活函数包括sigmoid、tanh、ReLU和Leaky ReLU等，其中sigmoid和tanh通常用于输出层，而ReLU和Leaky ReLU则通常用于隐藏层。
均方误差损失函数通常适用于回归问题，它度量预测值与真实值之间的平方误差。交叉熵损失函数通常适用于分类问题，它可以度量分类模型输出的概率分布与真实标签之间的差异。这是因为交叉熵可以鼓励神经网络将正确标签的概率预测得更高，并惩罚对错误标签的预测。