torch.nn常用函数

最新推荐文章于 2024-05-23 17:52:35 发布
最新推荐文章于 2024-05-23 17:52:35 发布
阅读量796 收藏 2
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/v1998v/article/details/107801905
版权
nn.Linear是PyTorch中用于线性变换的函数，将输入数据转换为输出数据，形式为y=Ax+b。它接受两个参数：输入样本的大小和输出样本的大小，可以包含偏置项。该层适用于处理具有固定维度的输入和输出数据。
摘要由CSDN通过智能技术生成

文章目录

nn.Linear(in_features, out_features, bias=True)

对输入数据做线性变换：y=Ax+b
如，m = nn.Linear(20, 30)
注意：虽然这里写的是Ax+b，其实是xA+b；（也可以是128个行向量x构成的矩阵，这样128x20与20x30矩阵相乘的结果是128个数据，每个输出数据是30维行向量）。
参数：

  • in_features - 每个输入样本的大小
  • out_features - 每个输出样本的大小
  • bias - 若设置为False，这层不会学习偏置。默认值：True

形状：

  • 输入: (N,in_features)
  • 输出： (N,out_features)

变量：

  • weight -形状为(out_features x in_features)的模块中可学习的权值
  • bias -形状为(out_features)的模块中可学习的偏置

例子：


                

                
                
        

        

    




        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        

    

      

        

            

              
                
                  zaego
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                      0
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    2
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      

            

                专栏目录
          










                



	

		

			

				
					
Pytorch中torch.nn的损失函数

				
			

			

				

					12-21
				

			

		

		

			
				
在本文中，我们将深入探讨三个常用的二分类和多标签分类损失函数：`torch.nn.BCELoss`、`nn.BCEWithLogitsLoss`和`torch.nn.MultiLabelSoftMarginLoss`。  ### 一、`torch.nn.BCELoss(weight=None, size_average=...

			
		

	



                

              
                



	

		

			

				
					
【PyTorch基础】乘法torch.mul()，torch.nn()

				
			

			

				

					qq_36977302的博客
				

				

					09-20
					
					863
					
				

			

		

		

			
				
torch.mul(a, b)是矩阵a和b对应位相乘，a和b的维度必须相等，相乘后返回结果维度也相同
torch.mm(a, b)是矩阵a和b矩阵相乘，比如a的维度是(1, 2)，b是(2, 3)，返回的就是(1, 3)的矩阵

举个栗子：
import torch

a = torch.rand(1, 4)
b = torch.rand(4, 3)
c = torch.rand(1, 3)

print(a,'\n',b,'\n',c)
ab = torch.mm(a, b)
abc = torch.m.

			
		

	



                


  
              

                


	

		

			

				
					
torch.nn的用法

				
			

			

				

					qq_43534083的博客
				

				

					05-22
					
					809
					
				

			

		

		

			
				
torch.nn提供了各种类型的神经网络层，如全连接层、卷积层、循环神经网络等。这些层可以通过继承类来自定义，也可以直接使用torch.nn模块中提供的预定义层。

			
		

	





	

		

			

				
					
常用torch.nn

					
最新发布

				
			

			

				

					m0_37737957的博客
				

				

					05-23
					
					784
					
				

			

		

		

			
				
常用基础pytorch知识

			
		

	



		

			
		



	

		

			

				
					
PyTorch学习笔记（二）——torch.nn解析

				
			

			

				

					Candyerer的博客
				

				

					01-27
					
					2686
					
				

			

		

		

			
				
PyTorch提供了方便漂亮的类和模块，来帮助我们创建和训练神经网络，例如 torch.nn, torch.optim 等。
为了更好地理解这些模块的功能和原理，我们在手动搭建的神经网络上，逐步添加这些模块，以显示每部分模块的功能，以及每部分是如何让代码更加灵活简洁的。
1、手动搭建神经网络
使用MNIST数据集，该数据集共有50000个图片，每一图片大小为2828，储存在长度为2828=784的扁平行。
#定义权重和偏执值,需要requires_grad=True，以便自动计算梯度，完成反馈
weight

			
		

	





	

		

			

				
					
PyTorch基础之网络模块torch.nn中函数和模板类的使用详解（附源码）

				
			

			

				

					showswoller的博客
				

				

					04-29
					
					1886
					
				

			

		

		

			
				
PyTorch基础之网络模块torch.nn中函数和模板类的使用详解（附源码）

			
		

	





	

		

			

				
					
【40】torch.nn汇总（各类与函数接口的解释说明）

				
			

			

				

					Clichong
				

				

					06-20
					
					2455
					
				

			

		

		

			
				
如有错误，恳请指出。以下内容是对torch.nn的各个接口进行一个简要汇总，持续更新…官方链接：https://pytorch.org/docs/stable/nn.html

ModuleList：在列表中保存子模块



ModuleDict：在字典中保存子模块



ParameterList：将参数保存在列表中



ParameterDict：将参数保存在字典中



1. Convolution Layers

nn.Conv1d：普通一维卷积，常用于文本。参数个数 = 输入通道数×卷积核尺寸(

			
		

	





	

		

			

				
					
PyTorch里面的torch.nn.Parameter()详解

				
			

			

				

					09-18
				

			

		

		

			
				
在PyTorch中，`torch.nn.Parameter()`是一个非常关键的类，它用于创建可学习的参数。这些参数通常是神经网络模型中的权重和偏置，它们在训练过程中会被优化算法更新以最小化损失函数。本文将深入探讨`torch.nn....

			
		

	





	

		

			

				
					
PyTorch NN 常用函数

				
			

			

				

					mmm305658979的博客
				

				

					03-18
					
					2762
					
				

			

		

		

			
				
1维卷积

>>> input (batch, in_channel, length) --> filters (out_channel, in_channel, kernel_size)
>>> torch.nn.functional.conv1d(inputs, filters)

2维卷积

>>> input (batch, in...

			
		

	





	

		

			

				
					
nn 常用函数

				
			

			

				

					qq_72985002的博客
				

				

					10-20
					
					171
					
				

			

		

		

			
				
每一层的参数是权重矩阵和偏置向量，它们将在训练过程中进行更新以适应数据。

			
		

	





	

		

			

				
					
pytorch之torch.nn.Conv2d()函数详解

					
热门推荐

				
			

			

				

					夏普通
				

				

					07-09
					
					20万+
					
				

			

		

		

			
				
文章目录一、官方文档介绍二、torch.nn.Conv2d()函数详解参数详解参数dilation——扩张卷积（也叫空洞卷积）参数groups——分组卷积三、代码实例
一、官方文档介绍
官网

nn.Conv2d：对由多个输入平面组成的输入信号进行二维卷积


二、torch.nn.Conv2d()函数详解
参数详解
torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=

			
		

	





	

		

			

				
					
pytorch中 torch.nn的介绍

				
			

			

				

					weixin_44587732的博客
				

				

					11-01
					
					1万+
					
				

			

		

		

			
				
pytorch中 torch.nn的介绍
一、torch.nn是什么？
torch.nn是pytorch中自带的一个函数库，里面包含了神经网络中使用的一些常用函数，如具有可学习参数的nn.Conv2d(),nn.Linear()和不具有可学习的参数(如ReLU，pool，DropOut等)，这些函数可以放在构造函数中，也可以不放。
二、torch.nn的应用。
通常引入的时候写成：
import torch.nn
import torch.nn.functional as F
这里我们把函数写在了构造函数中

			
		

	





	

		

			

				
					
PyTorch 中神经网络库torch.nn的详细介绍

				
			

			

				

					xw555666的博客
				

				

					02-01
					
					2950
					
				

			

		

		

			
				
torch.nn是 PyTorch 深度学习框架中的一个核心模块，它为构建和训练神经网络提供了丰富的类库。通过torch.nn，开发者能够快速构建复杂的深度学习模型，并利用 PyTorch 动态计算图特性进行高效训练和推理。此外，该模块还与torch.optim配合，方便地进行权重优化；以及与DataLoader结合以组织和迭代训练数据。

			
		

	





	

		

			

				
					
nn.Flatten()函数详解及示例

				
			

			

				

					gx19990824的博客
				

				

					11-11
					
					2万+
					
				

			

		

		

			
				
​
torch.nn.Flatten(start_dim=1,end_dim=-1)

作用：将连续的维度范围展平为张量。 经常在nn.Sequential()中出现，一般写在某个神经网络模型之后，用于对神经网络模型的输出进行处理，得到tensor类型的数据。

			
		

	





	

		

			

				
					
torch.nn

				
			

			

				

					qq_35222729的博客
				

				

					08-19
					
					4611
					
				

			

		

		

			
				
torch.nn 与 torch.nn.functional
说起torch.nn，不得不说torch.nn.functional!
这两个库很类似，都涵盖了神经网络的各层操作，只是用法有点不同，比如在损失函数Loss中实现交叉熵! 但是两个库都可以实现神经网络的各层运算。其他包括卷积、池化、padding、激活(非线性层)、线性层、正则化层、其他损失函数Loss，两者都可以实现不过nn.functional毕竟只是nn的子库，nn的功能要多一些，还可以实现如Sequential()这种将多个层弄到一个序列

			
		

	





	

		

			

				
					
深度学习之NN（Neural Network）

				
			

			

				

					百年孤独百年的博客
				

				

					12-01
					
					4247
					
				

			

		

		

			
				
根据我的理解，简单介绍一个DeepLearn Toolbox工具箱的NN里面各个函数都有什么作用，其中可能有个别表述或者理解的错误。哈哈哈哈哈，先随便写写吧。
主要参考链接：
这个工具箱下载链接：点击下载
首先你要知道如何训练一个NN。打开tests文件夹下的test_example_NN.m文件，第13行的注释vanilla neural net表示原始神经网络。代码15到20行这几步就训练了一...

			
		

	





	

		

			

				
					
NN中的激活函数【转载】

				
			

			

				

					weixin_30446197的博客
				

				

					03-31
					
					663
					
				

			

		

		

			
				
转自:https://blog.csdn.net/edogawachia/article/details/80043673
1.sigmoid

特点：可以解释，比如将0-1之间的取值解释成一个神经元的激活率（firing rate）
缺陷：

有饱和区域，是软饱和，在大的正数和负数作为输入的时候，梯度就会变成零，使得神经元基本不能更新。
只有正数输出（不是zero-centered...

			
		

	





	

		

			

				
					
torch.nn模块之常用激活函数详解

				
			

			

				

					DIPDWC的博客
				

				

					01-16
					
					1万+
					
				

			

		

		

			
				
激活函数1. 常用的激活函数2. 激活函数计算公式及其可视化2.1 Sigmoid激活函数2.2 Tanh激活函数2.3 ReLu激活函数2.4 LeakyReLU2.5 Softplus激活函数
1. 常用的激活函数
在PyTorch中，提供了十几种激活函数层所对应的类，但常用的激活函数类和和功能如下表1所示。
表1 常用激活函数操作




名称
层对应的类
功能




S型激活函数
torch.nn.Sigmoid
Sigmoid激活函数


双曲正切函数
torch.nn.Tanh
Tanh激活函

			
		

	





	

		

			

				
					
（八）神经网络-线性层及其他层介绍

				
			

			

				

					m0_58702532的博客
				

				

					05-01
					
					1570
					
				

			

		

		

			
				
【声明】来源b站视频小土堆PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】_哔哩哔哩_bilibili

Normalization Layers


nn.BatchNorm2d

对输入采用正则化，加快神经网络的训练速度

主要是num_features,对应通道数channel，其他默认即可



nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, 
						track_running_stats=Tr

			
		

	





	

		

			

				
					
torch.nn.linear函数

				
			

			

				

					08-29
				

			

		

		

			
				
torch.nn.Linear函数是PyTorch中的一个线性变换函数。它接受三个参数：in_features表示输入的特征数，out_features表示输出的特征数，bias是一个布尔值，表示是否使用偏置项。该函数将输入特征与权重矩阵相乘，并可选择是否加上偏置项，从而进行线性变换。

在nn.Linear函数中，权重矩阵的形状是(out_features, in_features)，而输入特征的形状是(batch_size, in_features)。当输入特征与权重矩阵相乘时，可以使用torch.t对nn.Linear的权重矩阵进行转置，以便进行矩阵乘法操作。这样得到的输出维度将是(batch_size, out_features)。torch.mm函数可以用来执行矩阵相乘的操作。

因此，torch.nn.Linear函数可以用来构建神经网络的全连接层，将输入特征与权重矩阵相乘，并添加偏置项，得到线性变换后的输出。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
-  *1* *3* [torch.nn.Linear()函数](https://blog.csdn.net/qq_35037684/article/details/121624295)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
-  *2* [【Pytorch基础】torch.nn.Linear()函数](https://blog.csdn.net/zfhsfdhdfajhsr/article/details/115228920)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]

			
		

	



              



  
“相关推荐”对你有帮助么？

  

      
    
          
  • 
              
    
                  
                  
              
    
              
    非常没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    没帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    一般
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    有帮助
    
          
    • 
          
  • 
              
    
                  
                  
              
    
              
    非常有帮助
    
          
    • 
      

      

      

          
          提交
      

      

  




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值