归一化和Relu函数

最新推荐文章于 2024-07-15 16:35:54 发布

AloneCat2012

最新推荐文章于 2024-07-15 16:35:54 发布

阅读量105

点赞数 2

文章标签： pytorch 深度学习人工智能

本文链接：https://blog.csdn.net/weixin_43576024/article/details/139984318

版权

import torch

# 假设输入数据是一个 2x2 的小图像，有 3 个通道
input_data = torch.tensor([
    [[[1.0, -1.0], [2.0, -2.0]],
     [[1.5, -1.5], [2.5, -2.5]],
     [[0.5, -0.5], [1.5, -1.5]]]
])
print("Input Data:\n", input_data)


import torch.nn as nn
import torch.nn.functional as F

# 定义批量归一化层和 ReLU 激活函数
batch_norm = nn.BatchNorm2d(3)  # 3 通道
relu = nn.ReLU()

# 批量归一化操作
normalized_data = batch_norm(input_data)
print("After Batch Normalization:\n", normalized_data)

# ReLU 激活
relu_data = relu(normalized_data)
print("After ReLU:\n", relu_data)