tf separable_conv2d 实现深度可分卷积 减少模型大小

最新推荐文章于 2022-09-18 18:01:01 发布
最新推荐文章于 2022-09-18 18:01:01 发布
阅读量191 收藏
点赞数
文章标签： 卷积 深度学习 tensorflow python 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35516360/article/details/122065592
版权
本文介绍了如何利用Tensorflow的separable_conv2d函数实现深度可分卷积，以减小模型大小。深度可分卷积通过深度卷积和点卷积两步操作，减少了计算量，通常可以降低模型复杂度一个数量级。文章提供了函数的关键参数解释，包括输入图像、深度卷积核、点卷积核、步长、填充方式等。
摘要由CSDN通过智能技术生成

原文链接: tf separable_conv2d 实现深度可分卷积 减少模型大小

上一篇: airtest 明日方舟 刷钱脚本

下一篇: uml 用例图

参考

tf.nn.separable_conv2d如何实现深度可分卷积?

基本上可以减少一个数量级

对每个channel, 使用同样的卷积, 最后将每层的结果叠加到一起

卷积大小变为原来的 1/channel 

def separable_convolution2d(
    inputs,
    num_outputs,
    kernel_size,
    depth_multiplier=1,
    stride=1,
    padding='SAME',
    data_format=DATA_FORMAT_NHWC,
    rate=1,
    activation_fn=nn.relu,
    normalizer_fn=
最低0.47元/天 解锁文章
阿豪boy
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【图像CNN识别】Keras之父提出可替代Conv2D的深度可分离卷积——快速提升视觉识别模型
AI工匠Book
04-03 1292
《AI工匠BOOK》持续更新AI算法与最新应用，如果您感兴趣，欢迎关注AI工匠（AI算法与最新应用前沿研究）。 在Keras之父的深度学习书中，设计了一种让图像识别任务性能提高几个百分点的网络层，该网络层不仅可以替代 Conv2D ，并可以让模型更加轻量、用较少的可训练权重参数、速度更快，该网络层正是深度可分离卷积（depthwise separable convolution）层（ Sepa...
TensorFlow实现深度可分离卷积
蓬莱道人的博客
09-15 8589
1、tf.nn.depthwise_conv2d(input,filter,strides,padding,rate=None,name=None,data_format=None):深度可分离卷积   参数：     input： 指需要做卷积的输入图像，要求是一个4维Tensor，具有[batch, height, width, in_channels]这样的shape，具体含义是[训练时...
深度可分离卷积的官方接口:slim.separable_conv2d == slim.separable_convolution2d ==depthwise conv+ pointwise conv
ChengChengCheng的博客
06-10 3995
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/layers/python/layers/layers.py 需要梯子
tf.nn.separable_conv2d 用法
ljs_a的博客
11-25 3432
下面来介绍tf.nn.separable_conv2d 的用法。 可以参考官方文档：官方文档 大家只要知道函数的参数，以及参数的设定方式：input: 一个Tensor。数据维度是四维 [batch, in_height, in_width, in_channels]。 depthwise_filter: 一个Tensor。数据维度是四维 [filter_height, filter_widt
Separable convolution
医学图像处理
09-06 1063
What is a separable filter?A two-dimensional filter kernel is separable if it can be expressed as the outer product of two vectors. For example, let's look at a Sobel kernel. s = [-1 0 1; -2 0 2; -1 0 1]s = -1 0 1 -2 0 2 -1
Proof of Separable Convolution 2D 证明 二维卷积的可分性
u013322443的专栏
05-07 2002
原文地址：http://www.songho.ca/dsp/convolution/convolution2d_separable.html By the definition of Convolution 2D;  Since convolution is commutative (x[n] * y[n] = y[n] * x[n]), swap the order of c
tensorflow 中的深度可分离卷积接口 slim.separable_conv2d()
U R MINE
11-24 3869
我在前面的一篇博客深入浅出谈谈深度可分离卷积中介绍了深度可分离卷积的原理，然后用 tensorflow 实现了下。 在 tensorflow 中的接口是slim.separable_conv2d()，接口说明： def separable_convolution2d( inputs, num_outputs, kernel_size, depth_multiplier=1, stride=1, padding='SAME', ...
tf.layers.separable_conv2d实现深度可分卷积
李敏乐的博客
05-10 1万+
tf.layers.separable_conv2d实现深度可分卷积
TensorFlow2.0(十)–实现深度可分离卷积神经网络
12-21
模型构建时，可以使用`tf.keras.layers.DepthwiseConv2D`和`tf.keras.layers.Conv2D`来实现深度可分离卷积。模型编译和训练包括设置损失函数、优化器和评估指标，然后调用`model.fit()`进行训练。最后，可以通过绘制...
Proof of Separable Convolution 2D
u012800939的专栏
01-15 615
http://www.songho.ca/dsp/convolution/convolution2d_separable.html By the definition of Convolution 2D;  Since convolution is commutative (x[n] * y[n] = y[n] * x[n]), swap the order of co
行列可分离卷积 separable convolution
Ridger_的博客
09-18 1326
行列可分离卷积(separable convolution)主要应用于图像处理算法中，用于将一遍2D离散卷积(也称滤波，下文交替使用)操作分离成2遍1D卷积操作。如果图像像素数为$m$，卷积核(也称卷积模板、模板)大小为$k*k$，则行列分离卷积可以将时间复杂度由$m*k^2$次乘法，简化到$m*2k$次乘法。
深度可分离卷积
Einstellung的博客
10-11 8839
如果我告诉你，有一个层可以替代Conv2D，并且可以让模型更加轻量（即更少的可训练权重参数）、速度更快（即更少的浮点数运算），还可以让任务性能提高几个百分点，那么如何呢？ 深度可分离卷积（depthwise separable convolution）（SeparableConv2D）就可以做到这一点。这个层对输入的每个通道分别执行空间卷积，然后通过逐点卷积（1*1卷积）将输出通道混合。 这相当...
【Tensorflow】tf.nn.separable_conv2d如何实现深度可分卷积?
xf__mao的博客
09-16 2万+
实验环境：tensorflow版本1.2.0，python2.7介绍tf.nn.separable_conv2d可以看做，深度卷积tf.nn.depthwise_conv2d的扩展，所以首先我们需要了解depthwise_conv2d，可以查看我的另一篇博客： 【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?tf.nn.separable_conv2d(inpu
TensorFlow之卷积函数（conv2d、depthwise_conv2d、separable_conv2d）
Yimu_Zhang的博客
06-04 4763
卷积函数是卷积神经网络（CNN）非常核心和重要的函数，在搭建CNN时经常会用到，因此较为详细和深入的理解卷积函数具有十分重要的意义。1、tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)：在给定4维的输入和过滤器的张量时，计算一个2维卷积。参数详解：input：输入的参数或者说是图像teno...
Slim下的函数介绍（一）
热门推荐
蓬莱道人的博客
09-22 2万+
1、slim.conv2d:二维卷积 2、slim.nets.resnet_utils.conv2d_same()：使用“SAME”填充的二维卷积 3、 tf.variable_scope()的original_name_scope 和 name的区别： 4、slim.utils.collect_named_outputs（collections, alias, outputs）：为outp...
Deep learning基于theano的keras学习笔记（3）-网络层
zhili8866的博客
11-21 8107
常用层 卷积层1. 常用层 1.1 Dense层 keras.layers.core.Dense(output_dim, init='glorot_uniform', activation='linear', weights=None, W_regularizer=None, b_regularizer=None, activity_regularizer=None, W_constraint=No
slim.conv2d以及slim.convolution2d与tf.nn.conv2d的不同
m0_37477175的博客
08-13 7425
前言 Slim是一个简化构建，训练和评估神经网络的库： 允许用户通过消除样板代码来更紧凑地定义模型。 这是通过使用参数范围和许多高级层和变量来实现的。 这些工具提高了可读性和可维护性，降低了复制和粘贴超参数值的错误发生的可能性，并简化了超参数调整。 通过提供常用的正则化器使开发模型变得简单。 Slim可以轻松扩展复杂模型，并通过使用预先存在的模型检查点来热启动训练算法。 首先slim.c...
Convolution
飞龙马的专栏
09-14 3690
from:http://www.songho.ca/dsp/convolution/convolution.html ←Back Convolution Convolution is the most important and fundamental concept in signal processing and analysis. By using convolut
def convert_to_separable_conv(module):
最新发布
06-10
具体而言，该函数使用 nn.Sequential() 方法将标准卷积分解为深度卷积和逐点卷积，并返回转换后的模块。函数中使用了 module.named_modules() 方法来遍历模块中的所有子模块，使用了 isinstance() 方法来判断某个...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值