PyTorch中 torch.nn与torch.nn.functional的区别

已于 2022-04-27 15:15:31 修改
阅读量5.8k 收藏 14
点赞数 7
分类专栏： pytorch 文章标签： pytorch 计算机视觉 人工智能 深度学习
于 2019-05-22 17:40:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zbzcDZF/article/details/90447993
版权

原文链接​​​​​​​

torch.nn

pytorch中文文档：torch.nn

在__init__()函数里定义，定义的是一个类：

torch.nn.functional

pytorch中文文档：torch.nn.functional

在__forward()__函数里定义，定义的是一个函数：

两者的区别：

nn中是定义的类，以class xx来定义的，可以提取变化的学习参数。nn.functional中的是函数，由def function( )定义，是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的，所以需要采用类的方式，以确保能在参数发生变化时仍能使用我们之前定好的运算步骤。因此如果模型有可学习的参数，应该使用nn.Module，否则两个没有区别。但是简单的计算不需要建类来做，所以使用nn.functional定义函数就可以。

即：层内有variable的情况用nn定义，否则用nn.functional定义。

学习更多编程知识，请关注我的公众号：

代码的路

代码的路
关注
  • 7
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
PyTorch之nn.ReLU与F.ReLU的区别介绍
12-17
import torch.nn.functional as F import torch.nn as nn class AlexNet_1(nn.Module): def __init__(self, num_classes=n): super(AlexNet, self).__init__() self.features = nn.Sequential( nn.Conv2d(3, 64,...
Pytorch使用autograd.Function自定义拓展神经网络
01-07
我们知道CNN这类人工神经网络都基于BP算法进行优化，因此需要误差关于权重是连续可导的，这是可以运用BP算法...import torch.nn.functional as F class Net(nn.Module): def __init__(self): super(Net, self).__ini
Pytorch中torch.nn和torch.nn.functional的区别及实例详解
重点记录机器人和自动驾驶相关领域的技术，尤其是计算机视觉，视觉SLAM等，不仅有前言文献或必备算法的学习，也会有实际应用的点滴经验
01-26 3277
文章目录0. 两者的区别1. 创建CNN实例2. dropout的不同3. nn.functional.x的优势reference: 0. 两者的区别 Pytorch中，nn与nn.functional有哪些区别？ 相同之处： 两者都继承于nn.Module nn.x与nn.functional.x的实际功能相同，比如nn.Conv3d和nn.functional.conv3d都是进行3d卷积 运行效率几乎相同 不同之处： nn.x是nn.functional.x的类封装，nn.functional.
torch.nn和torch.nn.functional的区别
orangerfun的博客
01-24 2606
torch.nn 中大多数 layer 在 torch.nn.funtional 中都有一个与之对应的函数。二者的区别在于： torch.nn.Module 中实现 layer 的都是一个特殊的类， 会自动提取可学习的参数。 nn.functional 中的函数，更像是纯函数，由 def function( ) 定义，只是进行简单的数学运算而已。即 functional 中的函数是一个确定的不变的运算公式，输入数据产生输出就ok。而深度学习中会有很多权重是在不断更新的，不可能每进行一次 forward 就用
pytorch学习笔记 (visdom可视化、正则化、动量、学习率衰减、BN)
最新发布
AAI666666的博客
03-15 548
pytorch学习笔记 (visdom可视化、正则化、动量、学习率衰减、BN)
Pytorch中nn. 与nn.functional 的区别
Petersburg的博客
08-16 266
nn. 中和 nn.functional中有很多名字相似功能一致的东西，那同样一个东西为什么要留两个使用方式呢？区别又是什么？ 先上一篇我觉得写得非常清楚的博客，详细内容见下 https://blog.csdn.net/chanbo8205/article/details/114890006 简要概略： nn.XXX均为一个类的实现，其均继承自一个祖父类nn.Module 而nn.functional为函数的实现 二者的运行效率等几乎一致，可以理解为这两个中一个是类的接口一个是函数的接口。 如果要谈论二
torch.functional 和torch.nn.functional，torch.nn和torch.nn.functional的区别
weixin_46088099的博客
07-22 1270
torch.functional 和torch.nn.functional，torch.nn和torch.nn.functional的区别
【pytorch】torch.nn 与 torch.nn.functional 的区别
One Way的博客
09-04 7979
在初学Pytorch 创建模型的时候,总会出现不知道要把layer放在 __init__下还是 torch.nn torch.nn 这个大模块下面存的主要是 Module类, 也就是说 torch.nn.Conv2d这种其实是个 Module类,在类中初始化了 torch.nn.functional ...
Pytorch-F函数(torch.nn.functional)和nn(torch.nn)的区别
huhuan4480的博客
01-30 3257
torch.nn函数的实现去调用torch.nn.functional，实现方式是一致的。它们的区别是： nn函数可以写在深度学习模型的初始化中，F函数不可以，因为其需要输入实际的input 例如nn.ReLu和F.relu
浅谈pytorch中torch.max和F.softmax函数的维度解释
12-17
import torch.nn.functional as F input = torch.randn(3,4) print(input) tensor([[-0.5526, -0.0194, 2.1469, -0.2567], [-0.3337, -0.9229, 0.0376, -0.0801], [ 1.4721, 0.1181, -2.6214, 1.7721]]) b = F....
pytorch 中pad函数toch.nn.functional.pad()的用法
12-23
import torch.nn,functional as F import torch from PIL import Image im=Image.open("heibai.jpg",'r') X=torch.Tensor(np.asarray(im)) print("shape:",X.shape) dim=(10,10,10,10) X=F.pad(X,dim,"constant",...
torch_nn_functional_conv2d_problem:torch.nn.functional.conv2d在ARM和x86_64体系结构上的不同输出
04-11
torch_nn_functional_conv2d_problem 应用相同的输入和参数时，torch.nn.functional.conv2d在ARM和x86_64体系结构上的输出不同。 运行脚本：python3functional_conv2d_example.py已经在results /文件夹中提供了已...
算法工程师的修养 | PyTorch 的 nn 详解
idol24的博客
08-04 2265
来源：知乎—zideajang地址：https://zhuanlan.zhihu.com/p/387133209、https://zhuanlan.zhihu.com/p/38719306...
Pytorch学习(二）—— nn模块
qq_38816432的博客
07-31 5824
torch.nnnn.Module常用的神经网络相关层优化器nn.functional初始化策略nn.Module深入分析nn和autograd借助nn搭建ResNet50 Pytorch nn模块提供了创建和训练神经网络的各种工具，其专门为深度学习设计，核心的数据结构是Module。Module是一个抽象的概念，既可以表示神经网络中的某个层，也可以表示一个包含很多层的神经网络。 nn.Module nn.Module基类构造函数： def __init__(self): self.tra
pytorch快速入门（五）torch.nn.functional
rensweet的博客
12-30 5260
1. torch.nn.functional官方解释 进入pytorch官方Docs 查看 torch.nn官方指南，讲的很详细 2 代码 1、 import torch from torch import nn input = torch.tensor([[1, 2, 0, 3, 1], [0, 1, 2, 3, 1], [1, 2, 1, 0, 0], [5, 2, 3,
Pytorch的第二步：(1) torch.nn.functional.conv卷积模块详解模块
Deep_bluce的博客
12-21 4052
torch.nn.functional 涉及了所有 torch.nn 需要 类 和 方法 ，torch.nn 构建的模块通常就是调用 torch.nn.functional 里的方法实现的，通过学习 torch.nn.functional 能为后期更好学习构建模型打下基础。 下文涉及 tensor 形状描述： B: batch大小 C：通道数 H：图像数据的高度 W：图像数据的宽度 L：一维数据的长度 下标 $i, k, o $ 分别表示输入、卷积核、输出 1 卷积 ###1.1 torch.nn.fu.
Pytorch——torch.nn&torch.nn.functional
aaon22357的博客
12-05 1621
文章目录torch.nntorch.nn.functional实现pooling实现二维max pooling实现一维max pooling 常用的两个库分别为torch.nn和torch.nn.functional，里面有很多函数功能都是相似的，两者的区别主要在于：使用torch.nn定义函数的时候，搭建的是“空壳子”，并不需要给定input，input在forward部分才给定，而使用torc...
PyTorch基础教程（五）torch.nn 模块（1）
旗狼
08-15 590
深度学习工具之PyTorch，通过学习PyTorch可以提高神经网络模型搭建效率，更好的构建出您想要的模型。通过学习本章内容，您可以学习到有关 PyTorch 中模块的简介
Pytorch学习笔记（5）：torch.nn---网络层介绍（卷积层、池化层、线性层、激活函数层）
路人贾的博客
02-14 3571
Pytorch学习笔记（5）：torch.nn---网络层介绍（卷积层、池化层、线性层、激活函数层）
torch.nn与torch.nn.functional有何关联及差异
05-25
`torch.nn`是PyTorch中的一个模块，它提供了一组用于构建神经网络的类和函数。这些类和函数封装了很多常见的神经网络层和操作。`torch.nn`中的类主要是用于定义可训练的模型参数（例如权重和偏差），而函数则主要用于定义不需要可训练参数的操作（例如激活函数、池化操作等）。 `torch.nn.functional`也是PyTorch中的一个模块，它包含了很多与神经网络相关的函数，这些函数可以直接调用。与`torch.nn`不同的是，`torch.nn.functional`中的函数是没有状态的。这意味着它们不会保存任何可训练的参数。因此，`torch.nn.functional`中的函数通常用于那些不需要学习参数的操作，例如激活函数、池化操作、归一化等。 因此，`torch.nn`和`torch.nn.functional`的区别在于，前者提供了一组可训练的模型参数，并且将这些参数封装到类中，后者则提供了一组不需要可训练参数的操作函数。在实际应用中，通常需要同时使用这两个模块来构建神经网络。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

代码的路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值