深度学习-卷积神经网络-深度分离卷积(PyTorch)

深度可分离卷积-图例

计算流程        

        1. 数据特征图 - image图像

        2. 分组卷积 - 对应通道进行卷积操作 -核心

        3. 逐点卷积 - 调整通道 - 核心

        4. 输出数据特征图 - featuremap

代码 - torch

"""
    python - pytorch - 深度分离卷积
"""

import torch
import torch.nn as nn


class Depth_Wise_Conv(nn.Module):
    """
        深度可分离卷积 = 分组卷积 + 逐点卷积调整通道
    """
    def __init__(self, in_channel, out_channel):
        super(Depth_Wise_Conv, self).__init__()
        # 分组
        self.conv_group = nn.Conv2d(in_channel, in_channel, kernel_size=3, stride=1, padding=1, groups=in_channel)
        # 逐点
        self.conv_point = nn.Conv2d(in_channel, out_channel, kernel_size=1, stride=1, padding=1, groups=1)
        # BN
        self.bn = nn.BatchNorm2d(out_channel)
        # activate
        self.act = nn.ReLU()

    def forward(self, inputs):
        """
            前向传播
        """
        x = self.conv_group(inputs)
        x = self.conv_point(x)
        x = self.bn(x)
        x = self.act(x)
        return x


if __name__ == '__main__':
    # 均匀分布产生数据
    test = torch.rand(1, 3, 16, 16)
    model = Depth_Wise_Conv(3, 16)
    model = model(test)
    print(model)

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度可分离卷积的改进是指改进版深度可分离卷积,它在原有的深度可分离卷积的基础上进行了调换顺序的操作。具体来说,改进版深度可分离卷积先进行1x1卷积调整通道,再利用3x3卷积提取特征。这种改进可以在Xception网络中找到。相比于普通的深度可分离卷积,改进版深度可分离卷积的参数量也会有一定的变化。此外,改进版深度可分离卷积还可以与残差网络结合使用,形成倒转残差结构。\[1\]\[2\]深度可分离卷积的具体实现是通过分组卷积和1x1的普通点卷积实现不同通道信息的融合。在深度卷积和点卷积之间加上批归一化层和激活层即可。\[3\] #### 引用[.reference_title] - *1* [深度卷积神经网络及各种改进](https://blog.csdn.net/weixin_43593330/article/details/107892974)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [神经网络学习小记录28——深度卷积神经网络各种改进结构块汇总](https://blog.csdn.net/weixin_44791964/article/details/103042733)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [使用pytorch实现深度可分离卷积改进模型的实战实践](https://blog.csdn.net/KPer_Yang/article/details/126445630)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值