深度学习笔记二：多层感知机（MLP）与神经网络结构

最新推荐文章于 2025-05-08 21:39:31 发布
最新推荐文章于 2025-05-08 21:39:31 发布
阅读量9.1w 收藏 232
点赞数 38
分类专栏： 深度学习理论 文章标签： 神经网络 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xierhacker/article/details/53282038
版权
本文介绍了神经网络的基本结构，包括输入层、隐藏层和输出层，强调了前向传播的过程，并以手写体识别为例进行说明。讨论了激活函数的重要性，特别是sigmoid函数在神经网络中的作用，以及它与logistic回归的关系。文章还简述了神经网络的训练，使用随机梯度下降法最小化损失函数，为后续的反向传播打下基础。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

为了尽量能形成系统的体系，作为最基本的入门的知识，请参考一下之前的两篇博客：
神经网络(一):概念
神经网络(二):感知机
上面的两篇博客让你形成对于神经网络最感性的理解。有些看不懂的直接忽略就行，最基本的符号的记法应该要会。后面会用到一这两篇博客中的一些记号和用法的约定什么的之后就不再啰嗦了。

一.基本结构

看完上面给出的两个博客或者已经有基本概念的同学应该对于神经网络的基本结构有基本的认识了。但是上面那个还只是涉及到单层结构，并没有推广到多层结构，同时，也没有在实践中使用这种结构的经验。所以，这节的内容就是以手写体识别为例子来讲一下基本结构，和实践中的基本使用思想。这是推广到更加复杂任务上的基础。
假设你现在已经有了神经网络的一些感性认识了，那就就看下面这幅图。
这里写图片描述
输入层（最左边），隐藏层（中间两层），和输出层（最右边），在之前列出的博客就讲过了，这里回顾一下。感受一下大概的架构。
神经网络的流程分为前向过程和反向过程。反向过程一般用于训练，后面讲，这里只讲前向过程。
还记得每个神经元上面都有对于一个输入的权值，以及一个偏置，还有一个激活函数。（不知道的话看之前列出来的博客，后面不再强调了

最低0.47元/天 解锁文章
机器学习笔记——感知机、多层感知机(MLP)、支持向量机(SVM)
haopinglianlian的博客
11-17 1733
本笔记介绍机器学习中的感知机、MLP、SVM算法。
学习笔记：深度学习（3）——卷积神经网络（CNN）理论篇
热门推荐
Morganfs的博客
04-12 11万+
深度学习笔记——CNN卷积神经网络理论篇。主要包括CNN的概念、基本原理、类型综述。算是比较完善的一篇文章了。
多层感知器（MLP）
m0_51200050的博客
06-30 3602
多层感知器（MLP）是一种前馈神经网络，通过多层线性变换和非线性激活函数，能够建模复杂的非线性关系。MLP 在各种任务中广泛应用，如分类、回归和序列预测等。通过前向传播、损失计算和反向传播的步骤，MLP 能够逐步调整参数，优化模型性能。具体数据示例帮助理解 MLP 的工作原理和实现过程。
多层感知机和神经网络的区别_【AI初识境】从头理解神经网络-内行与外行的分水岭...
weixin_39907526的博客
11-23 7566
这是专栏《AI初识境》的第2篇文章。所谓初识，就是对相关技术有基本了解，掌握了基本的使用方法。这一篇，我们就说说神经网络基础，包括简单历史，核心原理与技术。 ...
神经网络—感知器、多层感知器
最新发布
jdjhcn的博客
05-08 1457
感知器（Perceptron）是神经网络发展历程中的基础模型，由美国科学家 Frank Rosenblatt 在 1957 年提出。它模拟了生物神经元的工作方式，是构建更复杂神经网络的基石。感知器虽然是神经网络的基础，但它存在一定的局限性：只能处理线性可分问题：感知器只能对线性可分的数据进行分类，对于线性不可分的数据（如异或问题），感知器无法收敛到一个正确的解。缺乏隐藏层：简单感知器没有隐藏层，这限制了它的表达能力，无法处理复杂的非线性映射。
多层感知器(MLP)
weixin_39454351的博客
02-09 8938
多层感知器             多层感知器（Multilayer Perceptron,缩写MLP）是一种前向结构的人工神经网络，映射一组输入向量到一组输出向量。MLP可以被看作是一个有向图，由多个的节点层所组成，每一层都全连接到下一层。除了输入节点，每个节点都是一个带有非线性激活函数的神经元。使用反向传播算法的监督学习方法用来训练MLP。MLP是感知器的推广，克服了感知器不能对线性不可分数...
多层感知机 (Multilayer Perceptron, MLP)
m0_60388871的博客
09-14 6193
通过将输入逐层转换，加权求和并非线性化，可以让多层感知机学习到数据的复杂模式。反向传播算法是优化参数的核心，通过梯度下降调整权重以降低损失函数值。
多层感知机（MLP）
qq_46703208的博客
03-26 4138
多层感知器（MLP，Multilayer Perceptron）是一种前馈模型，其将输入的多个数据集映射到单一的输出的数据集上。，因此也叫深度感知机是单个神经元模型，是较大神经网络的前身。神经网络的强大之处在于它们能够学习训练数据中的表示，以及如何将其与想要预测的输出变量联系起来。从数学上讲，它们能够学习任何映射函数，并且已经被证明是一种通用的近似算法。神经网络的预测能力来自网络的分层或多层结构。而多层感知机是指具有至少三层节点，输入层，一些中间层和输出层的神经网络。
多层感知机
weixin_43955293的博客
09-14 2973
多层感知器 多层感知器（Multilayer Perceptron,缩写MLP）是一种前向结构的人工神经网络，映射一组输入向量到一组输出向量。MLP可以被看作是一个有向图，由多个的节点层所组成，每一层都全连接到下一层。除了输入节点，每个节点都是一个带有非线性激活函数的神经元（或称处理单元）。一种被称为反向传播算法的监督学习方法常被用来训练MLP。 MLP是感知器的推广，克服了感知器不能对线性不可分数据进行识别的弱点。 前言 本博文主要介绍一下多层感知器的结构，并且用代码实现网络结构的初始化。随笔而已，写的比
【Tensorflow教程笔记】基础示例：多层感知机（MLP）
nanke_4869的博客
02-20 6929
Tensorflow教程笔记 TensorFlow 基础 TensorFlow 模型建立与训练 基础示例：多层感知机（MLP） 目录Tensorflow教程笔记数据获取及预处理： `tf.keras.datasets`TensorFlow 的图像数据表示模型的构建： `tf.keras.Model` 和 `tf.keras.layers`softmax 函数模型的训练： `tf.keras.losses` 和 `tf.keras.optimizer`交叉熵（cross entropy）与 `tf.kera
深度学习+pytorch自学笔记（五）——MLP多层感知机
weixin_45719141的博客
08-01 954
参考书籍《动手学深度学习(pytorch版），参考网址为： https://zh-v2.d2l.ai/chapter_multilayer-perceptrons/index.html https://tangshusen.me/Dive-into-DL-PyTorch/#/chapter03_DL-basics/3.8_mlp 请大家也多多支持这两个很好用的平台~ 大部分内容为书中内容，也有部分自己实验和添加的内容，如涉及侵权，会进行删除。 一、基本概念和模型 1.隐藏层 多层感知机在单层神经网络的基础上
MLP多层感知机
hellozhxy的博客
06-08 5872
一、多层感知机（MLP）原理简介多层感知机（MLP，Multilayer Perceptron）也叫人工神经网络（ANN，Artificial Neural Network），除了输入输出层，它中间可以有多个隐层，最简单的MLP只含一个隐层，即三层的结构，如下图：从上图可以看到，多层感知机层与层之间是全连接的。多层感知机最底层是输入层，中间是隐藏层，最后是输出层。隐藏层的神经元怎么得来？
多层感知机MLP
qq_32172681的博客
09-25 1508
1、神经元 神经网络的构建块是人工神经元。 这些是具有加权输入信号并使用激活功能产生输出信号的简单计算单元。 输出和输入之间学习到一个线性关系，得到中间输出结果： 接着是一个神经元激活函数: 激活函数是输入加权和与神经元输出的简单映射。它被称为激活函数，因为它控制神经元被激活的阈值和输出信号的强度。 从而得到我们想要的输出结果1或者-1。 这个模型只能用于二元分类，且无法学...
多层感知机和神经网络的区别_情感分析之多层全连接神经网络
weixin_39653766的博客
11-29 1万+
全连接神经网络全连接神经网络是一种最基本的神经网络结构，英文为Full Connection，所以一般简称FC。FC的准则很简单：神经网络中除输入层之外的每个节点都和上一层的所有节点有连接。上图是一个双隐层的前馈全连接神经网络，或者叫多层感知机 (MLP)。它的每个隐层都是全连接层。它的每一个单元叫神经元。多层感知机在单层神经网络的基础上引入了一到多个隐藏层(hidden layer)。隐藏层位于...
多层感知器
2401_86086758的博客
06-29 2162
一、背景介绍 随着科技的不断发展，人工智能成为了当今世界的一个热点研究领域。人工智能的发展离不开机器学习的算法，而神经网络作为机器学习的一种重要算法，其在人工智能领域的应用日益广泛。多层感知器（MLP）是神经网络中的一种经典模型，自从1986年由Rumelhart等人提出以来，它已经在许多领域取得了显著的应用成果。本文将探讨多层感知器的理论基础、架构及其在神经网络中的应用，并对其进行实验与分析，以期为多层感知器的研究和应用提供一定的参考。 多层感知器的研究背景可追溯至20世纪
深度学习mlp
03-11
### 关于深度学习中多层感知机（MLP） #### 概念 多层感知机（Multilayer Perceptron，简称MLP）是一种前向人工神经网络模型，由多个神经元组成的网络层间以全连接的方式连接[^1]。作为一种基础的人工神经网络（Artificial Neural Network, ANN）结构，MLP主要用于分类和回归任务。该模型采用全连接层结构，即每一层的所有神经元与下一层的所有神经元相连。这种特性使得MLP能够逼近复杂的非线性映射关系，在机器学习领域占据重要地位[^2]。 #### 实现 为了实现一个多层感知机，除了构建基本的网络架构外，还需要定义激活函数来处理各层之间的数据传递。常用的激活函数有： - ReLU函数（Rectified Linear Unit），这是目前最常使用的激活函数之一； - Sigmoid函数，适用于某些特定场景下的平滑过渡需求； - Tanh函数，提供了一个范围更广的选择区间[-1, 1]内的输出值[^4]。 下面是一个简单的Python代码示例，展示了如何利用PyTorch框架创建并训练一个两层的MLP来进行手写数字识别的任务： ```python import torch from torch import nn, optim from torchvision.datasets.mnist import MNIST from torchvision.transforms import ToTensor class SimpleMLP(nn.Module): def __init__(self): super(SimpleMLP, self).__init__() self.fc1 = nn.Linear(784, 500) # 输入维度为28*28=784像素的手写图片展成一维向量后的大小 self.relu = nn.ReLU() self.fc2 = nn.Linear(500, 10) # 输出维度对应十个类别标签 def forward(self, x): out = self.fc1(x.view(-1, 784)) out = self.relu(out) out = self.fc2(out) return out # 加载MNIST数据集 train_dataset = MNIST(root='./data', train=True, transform=ToTensor(), download=True) # 定义损失函数和优化器 criterion = nn.CrossEntropyLoss() optimizer = optim.SGD(model.parameters(), lr=0.01) model = SimpleMLP() for epoch in range(num_epochs): for images, labels in dataloader: outputs = model(images) loss = criterion(outputs, labels) optimizer.zero_grad() # 清除梯度缓存 loss.backward() # 计算参数更新方向 optimizer.step() # 更新权重参数 ``` 这段代码实现了基于PyTorch库的一个简单版本的MLP，并对其进行了初步配置以便可以用于实际的数据分析工作流中[^3]。 #### 应用 多层感知机广泛应用于各种类型的监督学习问题上，尤其是在图像识别、语音处理等领域表现优异。例如上述提到的手写体字符辨识就是其中一个典型的应用案例；除此之外还包括但不限于自然语言理解、时间序列预测等多个方面。随着硬件性能提升以及算法改进，未来还将看到更多创新性的应用场景涌现出来。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值