深度学习的数学-神经网络、输入层、隐藏层、输出层

最新推荐文章于 2025-04-16 23:11:14 发布

藏锋入鞘

最新推荐文章于 2025-04-16 23:11:14 发布

阅读量5.3w

点赞数 27

分类专栏：深度学习的数学文章标签：神经网络深度学习

本文链接：https://blog.csdn.net/qq_34177812/article/details/104734520

版权

文章目录

排版可能更好一点的永久原文链接：深度学习的数学-神经网络、输入层、隐藏层、输出层

前言

前文中了解到，神经网络由多个神经单元组成，而本篇博客将会了解到深度学习由多个神经网络组成，并且分为输入层、隐藏层和输出层，隐藏层涉及到的知识点最多，是本文的重点

正文

阶层型的神经网络主要结构如下图所示，通过输入层激活信号，再通过隐藏层提取特征，不同隐藏层神经单元对应不同输入层的神经单元权重和自身偏置均可能不同，输入层兴奋传递到隐藏层兴奋，最后输出层根据不同的隐藏层权重和自身偏置输出结果

一个例子

借用书中的一个例子，目标是识别一个 4 * 3 的黑白图像是0还是1，例子中输入层采用了 12 个神经节点来对应

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

藏锋入鞘

关注关注

27
点赞
踩
152

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

PyTorch深度学习实战（1）——神经网络与模型训练过程详解

盼小辉丶的博客

05-28

8万+

在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。

干货|（DL~3）deep learning中一些层的介绍

小白学视觉

01-06

1290

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达简介一、relu层1、前向传播2、反向传播二、dropout层1、dropout工作原理2、在哪里使用dropout3...

1 条评论您还未登录，请先登录后发表或查看评论

神经网络算法浅谈

MIT计算认知研究院特聘研究员，DeepMind超对称量子拓扑项目组首席架构师。

02-08

543

神经网络算法通过构建多层结构，运用前向传播进行预测，通过反向传播进行优化，旨在找到一组最佳的网络参数，使得模型能有效映射输入数据到期望的输出，并具备良好的泛化能力。神经网络是一种模拟人脑神经元工作原理的计算模型，由大量的人工神经元相互连接形成复杂网络结构，用于解决各种机器学习和人工智能问题。

一文读懂经典深度学习模型—CNN、RNN、LSTM、Transformer、ViT

04-16

1719

RNN作为一种特殊的神经网络架构，也被称作序列模型或反馈神经网络。它主要用于处理具有序列特性的数据，如自然语言文本、时间序列数据等。在这类数据中，前后元素之间存在着紧密的关联关系。RNN 的独特之处在于其隐状态（hidden state）h 机制。随着序列数据按顺序逐个输入，隐状态 h 能够动态地捕捉序列中每个时刻数据的特征信息，并将之前时刻的信息融入到当前时刻。这种特性使得 RNN 不仅能处理当前输入，还能考虑到历史输入所携带的信息，从而对整个序列进行全局理解。

深度学习--卷积神经网络

weixin_62835844的博客

12-05

1827

卷积神经网络基础层级结构分析

深度学习（十一）——神经网络：线形层及其他层介绍

2401_85325519的博客

06-19

1093

内含RNN、LSTM等函数，主要在nlp领域用的比较多官方文档：bias(bool)\(in\_features=d\)，即指的是in_features的个数\(out\_features=L\)，即指的是out_features的个数\(x_1,\dots,x_i,\dots,x_d\)每个指向\(g_1\)的箭头上，均有：其中，\(b_i\)代表偏置，参数\(bias=True\)，则加上\(b\)；\(bias=False\)，则不加\(b\)

深度学习的层、算子和函数空间

weixin_47151388的博客

04-08

2118

不同类型的神经网络结构对应于不同的函数空间，而训练过程则是在这些函数空间中搜索最优解的过程。通常情况下，神经网络模型的参数越多，函数空间的维度就越高，可以表示的函数也就越复杂。训练过程中的目标是最小化损失函数，即模型预测与真实标签之间的差异，以使模型学到的函数尽可能地接近目标函数。具体来说，神经网络模型可以看作是参数化的函数族，即通过调整模型的参数（如权重和偏置），可以生成不同的函数。在深度学习中，函数空间是一个非常重要的概念，因为神经网络模型本质上就是在函数空间中搜索最优函数的过程。

深度学习各个层——一句话说清楚

qq_44717133的博客

08-19

137

这一层的神经元与上一层全部来连接，比如全连接神经网络层，轻装上阵，输出最后结果（分类或回归）

深度学习基础篇：常用的神经网络层

yuanyuneixin1的专栏

04-18

1万+

实战篇中，人脸识别模型的搭建看似非常复杂，其实都是由一些常用的神经网络层搭建而来，只要我们明白了这些网络层，搭建一个模型就不再困难了 神经网络搭建的方式有2种：顺序模型和函数式API 计算机视觉常用的神经网络层：全连接层、二维卷积层、池化层、BN层、dropout层、flaten层下面我们分别介绍他们全连接层全连接层的每一个节点都和上一层所有的节点相连，从而把之前提取到的特征综合起来。如下图...

神经网络分为哪几层？

weixin_40551464的博客

01-18

2923

正规化层（Normalization Layer）：例如批量归一化层（Batch Normalization Layer），用于调整前一层的输出，以改善训练的稳定性和速度。隐藏层（Hidden Layers）：这些是位于输入层和输出层之间的层。全连接层（Fully Connected Layer）：这些层中的神经元与前一层的所有神经元相连接，常用于网络的后部分，以汇总前面层的信息。卷积层（Convolutional Layer）：在卷积神经网络（CNN）中，这些层用于提取输入数据（如图像）中的局部特征。

python深度学习--神经网络--多层感知机

ssheudjbdndnjd的博客

03-20

1944

在一般的二元分类问题中，tanh 函数用于隐藏层，而 sigmoid 函数用于输出层，但这并不是固定的，需要根据特定问题进行调整。在多层感知机中，每个神经元都有一个激活函数，通常使用非线性函数，如Sigmoid函数、ReLU函数等。在多分类问题中，我们通常会使用softmax函数作为网络输出层的激活函数，softmax函数可以对输出值进行归一化操作，把所有输出值都转化为概率，所有概率值加起来等于1。由于概率的取值范围是0到1，当感知机用于解决二分类问题时，输出层的神经元一般使用Sigmoid激活函数。

神经网络输入层输出层,神经网络输入数据要求

aifans_bert的博客

10-23

5676

输入就是样本啊，就是数据，只不过每个数据可能有很多项，那些是特征值，这些都是不一定的，要看数据本身。几种类型？一般情况，神经网络的输入都是实数，应该不能是其他类型的吧？输入层的个数就是这些样本的特征数。神经元就是相当于里面的一个节点，有输入也有输出，因为是模拟生物神经的一个基本单元，所以称为神经元而已。输出层的个数一般为类别数，根据编码方式不一样可能略有不同。比如，三类的可以只有两个输出。但是一般为类别数，那个输出最多，属于那个类别的可能性也比较大。

深度学习隐藏层

kyle1314608的博客

05-15

5509

隐藏层的意义要说明隐藏层的意义，需要从两个方面理解，一个是单个隐藏层的意义，一个是多层隐藏层的意义。单个隐藏层的意义 隐藏层的意义就是把输入数据的特征，抽象到另一个维度空间，来展现其更抽象化的特征，这些特征能更好的进行线性划分。举个栗子，MNIST分类。输出图片经过隐藏层加工, 变成另一种特征代表 (3个神经元输出3个特征), 将这3个特征可视化出来。就有了下面这张图, 我们发现中间的隐藏层对于"1"的图片数据...

深度学习

光尘的博客

03-22

935

数据挖掘、机器学习和深度学习的区别是什么？这些概念都代表什么？我们通过深度学习让机器具备人的能力，甚至某些技能的水平超过人类，比如图像识别、下棋对弈等。那么深度学习的大脑是如何工作的？深度学习是基于神经网络构建的，都有哪些常用的网络模型？深度学习有三个重要的应用领域，这三个应用领域分别是什么？ ...

动手学深度学习—深度学习计算（层和块、参数管理、自定义层和读写文件）

qq_38473254的博客

08-01

1072

"""自定义块：1、将输入数据作为其前向传播函数的参数。2、通过前向传播函数来生成输出（输出的形状可能与输入的形状不同）。3、计算其输出关于输入的梯度，可通过其反向传播函数进行访问。4、存储和访问前向传播计算所需的参数。5、根据需要初始化模型参数。""" """多层感知机：1、输入是一个20维的输入。2、具有256个隐藏单元的隐藏层和一个10维输出层。""" class MLP(nn . Module) : # 用模型参数声明层。

神经网络的隐藏层

热门推荐

浮生若梦

05-26

3万+

通常，卷积神经网络除了输入和输出层之外还有四个基本的神经元层，在三层神经网络中，这基层被称为隐藏层 卷积层（Convolution）激活层（Activation）池化层（Pooling）完全连接层（Fully connected）卷积层在最初的卷积层中，成千上万的神经元充当第一组过滤器，搜寻图像中的每个部分和像素，找出模式（pattern）。随着越来越多的图像被处理，每个...

深度学习（神经网络的表示及输出）

Darkness_01的博客

12-03

1656

首先拿以上这样一种神经网络模型来演示。

深入理解深度学习

guotianqing的博客

11-14

1225

基础简介人们在谈论AI时，常常会混淆人工智能、机器学习和深度学习的关系。其实，它们之间的关系很简单，一张图就说明了：人工智能是非常宽泛的，一般来说将通常由人类完成的智力任务自动化，就可以称为人工智能。因此，人工智能是一个综合性的领域，不仅包括机器学习和深度学习，还包括许多不需要学习的方法，如：一个自动化完成特定的任务的脚本程序，如定时任务早期的国际象棋程序，由精心编写的硬编码规则完成，不涉及机器学习只要足够用心，硬编码理论上可以解决许多明确定义的逻辑问题。但是它难以处理更复杂、模糊的问

如何理解深度学习中的层和块以及参数管理？

m0_56175815的博客

05-03

968

要想直观地了解块是如何工作的，最简单的方法就是自己实现一个。在实现我们自定义块之前，我们简要总结一下每个块必须提供的基本功能。在下面的代码片段中，我们从零开始编写一个块。它包含一个多层感知机，其具有256个隐藏单元的隐藏层和一个10维输出层。注意，下面的MLP类继承了表示块的类。我们的实现只需要提供我们自己的构造函数（Python中的__init__函数）和前向传播函数。我们首先看一下前向传播函数，它以X作为输入，计算带有激活函数的隐藏表示，并输出其未规范化的输出值。在这个MLP。

BP神经网络3层隐藏层pytorch代码

11-01

在PyTorch中，建立一个具有三层隐藏层的BP（Backpropagation，反向传播）神经网络通常涉及以下几个步骤： ```python import torch import torch.nn as nn class MultiLayerPerceptron(nn.Module): def __init__(self, input_size, hidden_sizes=(64, 32), output_size=10): super(MultiLayerPerceptron, self).__init__() # 定义网络结构 layers = [] for i in range(len(hidden_sizes)): if i == 0: layers.append(nn.Linear(input_size, hidden_sizes[i])) layers.append(nn.ReLU()) else: layers.append(nn.Linear(hidden_sizes[i-1], hidden_sizes[i])) layers.append(nn.ReLU()) layers.append(nn.Linear(hidden_sizes[-1], output_size)) # 输出层 self.net = nn.Sequential(*layers) # 将所有层串联起来 def forward(self, x): return self.net(x) # 使用示例 input_size = 784 # 假设输入是一个28x28的图像 hidden_sizes = (128, 64) output_size = 10 # 对于10分类任务 model = MultiLayerPerceptron(input_size, hidden_sizes, output_size) # 初始化权重和偏置 for m in model.modules(): if isinstance(m, nn.Linear): nn.init.uniform_(m.weight, -0.05, 0.05) nn.init.zeros_(m.bias) ``` 这个代码创建了一个简单的前馈神经网络，它有三个隐藏层（包括输入层），每个隐藏层之后都有一个ReLU激活函数。最后一层是线性层，并连接到指定的输出大小。`nn.Sequential`用于组织各层之间的顺序。