Pytorch深度学习-神经网络-非线性激活（小土堆）

最新推荐文章于 2024-10-01 20:17:55 发布

Mr chenxizhi

最新推荐文章于 2024-10-01 20:17:55 发布

阅读量133

点赞数 2

文章标签：深度学习 pytorch 神经网络

本文链接：https://blog.csdn.net/weixin_53141706/article/details/140276916

版权

ReLU

torch.nn.ReLU（inplace=False）

参数

inplace （bool） – 可以选择就地执行操作。默认值： `False`，即是否对原来的值进行替换还是作为返回值

代码示例

import torch  
import torch.nn as nn  
from torch.nn import ReLU  
  
input = torch.tensor([[1,-0.5],  
                      [-1,3]])  
  
input = torch.reshape(input,(-1,1,2,2))  
  
class relu_test(nn.Module):  
    def __init__(self, *args, **kwargs) -> None:  
        super().__init__(*args, **kwargs)  
        self.relu1 = ReLU(inplace=False)  
  
    def forward(self,input):  
        output = self.relu1(input)  
        return output  
  
test = relu_test()  
  
output = test(input)  
  
print(output)