AI学习_弱监督学习(编解码器)_图像分割_Unet/U2net

麦没了块QAQ

已于 2023-09-15 15:11:24 修改

阅读量1.5k

点赞数 1

分类专栏：卷积深度学习笔记文章标签：人工智能学习深度学习

于 2022-12-04 22:19:39 首次发布

本文链接：https://blog.csdn.net/qq_41848886/article/details/128173626

版权

笔记同时被 3 个专栏收录

12 篇文章 0 订阅

订阅专栏

深度学习

9 篇文章 1 订阅

订阅专栏

卷积

3 篇文章 0 订阅

订阅专栏

无监督学习(弱监督学习)

让模型对输入的数据进行特征提取，从而实现无标签学习（无监督学习）
本质是编码，解码的过程。让模型在卷积编码（下采样）、卷积解码（上采样）的过程中。自我总结特征

目前常用于图像分割
（ps：图像分割又分为三种：普通分割、语义分割、实例分割。此处的无监督学习现用于普通分割）

编码解码器的结构，可以类似为一种无监督神经网络，每层结构类似（顺序不能变）：
卷积 +
BtachNormal +
ReLU+
Pool(未定)+
Dropout
（同时这一结构也是后期大部分卷积网络的基本结构）
代码实现：

nn.Conv2d(16, 32, 3, 1, padding=1, padding_mode="reflect", bias=False),  # 普通卷积层，这里选择"3卷积核/1步长/1padding"的模板，不改变输入内容的尺寸，只进行特征提取
#注意： bias=False，是因为BatchNorm2d相当于进行了bias的操作（只不过是做乘法），所以手动去掉bias
nn.BatchNorm2d(32),
# 常规的Relu，
# 也可以换为LeakyReLU。但就要加上nn.Dropout(0.2)去掉一些多余的数据
nn.ReLU(),
# ！！！最大池化/平均池化 的输入值都是“池化区大小”，别调太大！！！
nn.MaxPool2d(3),

由于编码（下采样）会丢失数据，所以需要在解码（上采样）里补充特征

如果编码（下采样）时压缩率过高，损失太高，解码（上采样）可能会失败

通道混洗（Group编组）

在不增加计算量的情况下，使通道充分融合
简而言之，即改形状（reshape）后转置/换轴（transpose），再改回来。实现打乱顺序，重新排序
在这里插入图片描述
注意：实现混洗的基础是，“上一个卷积层进行了分组”

layer1 = nn.Conv2d(12, 12, 3, 1, padding=1, groups=6)    # 深度可分离卷积
out = layer1(x)
print(out.shape)  #  1, 12, 32, 32
# 通道混洗(reshape)
out = out.reshape(1, 3, 4, 32, 32)
# 换轴
out = torch.permute(out, (0, 2, 1, 3, 4))
print(out.shape)  #  1, 4, 3, 32, 32
# 再换回来
out = out.reshape(1, 12, 32, 32)
print(out.shape)  # 1, 12, 32, 32