torch实现自编码器_PyTorch搭建自动编码器(AutoEncoder)用于非监督学习

f44a4f48cc88a18e9cbd8a55a6d9b26b.png

一、自动编码器

自编码器是一种能够通过无监督学习,学到输入数据高效表示的人工神经网络。输入数据的这一高效表示称为编码(codings),其维度一般远小于输入数据,使得自编码器可用于降维。更重要的是,自编码器可作为强大的特征检测器(feature detectors),应用于深度神经网络的预训练。此外,自编码器还可以随机生成与训练数据类似的数据,这被称作生成模型(generative model)。比如,可以用人脸图片训练一个自编码器,它可以生成新的图片。

1、个人对于自动编码器用于无监督学习的理解

通过自己的学习理解,认为自动编码器的实现无监督学习的途径是这样的,首先以图片为例,对于一个图片先压缩,使其变模糊,再根据变模糊的图片去恢复成原来的图片,因为在训练过程中是没有其他的标签的,所以训练的数据既是数据又是标签。

对于一个压缩的过程,可以看作通过神经网路进行特征提取,然后再通过这个提取的特征去恢复成原来的图像,那么训练过程的意义就是为了训练网络中的参数来实现这个过程。

2192e95aa8acecde77e84c81dcc3cdac.png
网络的功能就是为了从X提取特征并根据特征恢复X

因为原图像可能很大,通过编码的过程可以提取指出图像的主要特征,对原信息进行缩减,在把缩减的信息送入神经网络进行学习,这样可以大幅度降低网络的计算成本。

231616de262baa0d1a982f481b845cd5.png
精髓在于提取后的特征

自编码器主要用到网络的前半部分,因此这一部分也被称作是编码器。

6666c21dd777222de21a47b751e8224c.png
编码器的原理

2、自编码器网络的搭建

导包及超参数的设置

import torch
import torchvision
import torch.utils.data as Data
import torch.nn as nn
import torch.nn.functional as F
import matplotlib.pyplot as plt
from matplotlib import cm
from mpl_toolkits.mplot3d import Axes3D

import time
starttime = time.time()

torch.manual_seed(1)   #为了使用同样的随机初始化种子以形成相同的随机效果

EPOCH = 10
BATCH_SIZE = 64
LR = 0.005
N_TEST_IMG = 5

训练集的导入及测试

train_data = torchvision.datasets.MNIST(
    root='MINIST',
    train=True,
    transform=torchvision.transforms.ToTensor(),
    download=False
)
loader = Data.DataLoader(dataset=train_data, batch_size=BATCH_SIZE, shuffle=True)

# print(train_data.train_data.size())
# print(tra
  • 3
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,以下是一个简单的稀疏自动编码器PyTorch 实现: ```python import torch import torch.nn as nn import torch.optim as optim class SparseAutoencoder(nn.Module): def __init__(self, input_dim, hidden_dim, sparsity_penalty): super(SparseAutoencoder, self).__init__() self.encoder = nn.Linear(input_dim, hidden_dim) self.decoder = nn.Linear(hidden_dim, input_dim) self.sparsity_penalty = sparsity_penalty self.relu = nn.ReLU() self.sigmoid = nn.Sigmoid() def forward(self, x): encoded = self.relu(self.encoder(x)) decoded = self.sigmoid(self.decoder(encoded)) return encoded, decoded def loss(self, x, decoded, encoded): reconstruction_loss = nn.functional.binary_cross_entropy(decoded, x) sparsity_loss = self.sparsity_penalty * torch.sum(torch.abs(encoded.mean(dim=0) - 0.1)) return reconstruction_loss + sparsity_loss # 定义模型和优化器 input_dim = 784 hidden_dim = 128 sparsity_penalty = 0.1 model = SparseAutoencoder(input_dim, hidden_dim, sparsity_penalty) optimizer = optim.Adam(model.parameters()) # 训练模型 num_epochs = 10 batch_size = 32 data_loader = torch.utils.data.DataLoader(train_data, batch_size=batch_size, shuffle=True) for epoch in range(num_epochs): epoch_loss = 0 for batch in data_loader: optimizer.zero_grad() x = batch[0].view(-1, input_dim) encoded, decoded = model(x) loss = model.loss(x, decoded, encoded) loss.backward() optimizer.step() epoch_loss += loss.item() print('Epoch [{}/{}], Loss: {:.4f}'.format(epoch+1, num_epochs, epoch_loss/len(data_loader))) ``` 在这个例子中,我们定义了一个 `SparseAutoencoder` 类,它包含了一个编码器和一个解码器,以及一个稀疏惩罚参数。`forward` 函数实现了正向传播,`loss` 函数实现了模型的损失函数,包括重构损失和稀疏惩罚项。然后我们定义了模型和优化器,并使用 PyTorch 的数据加载器来进行训练。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值