tensorflow tf.space_to_batchnd函数理解

最新推荐文章于 2022-04-11 18:10:21 发布
最新推荐文章于 2022-04-11 18:10:21 发布
阅读量4.3k 收藏 7
点赞数 2
分类专栏： tensorflow 文章标签： tensorflow batch_to_space space_to_batch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/murdock_c/article/details/87470248
版权
本文介绍了 TensorFlow 中如何使用 space_to_batchnd 函数实现空洞卷积，详细解释了该函数的作用、工作原理，并结合官方源码和实例进行解析，帮助理解空洞卷积的转换过程。
摘要由CSDN通过智能技术生成

最近需要将tensorflow转ncnn模型, 发现无论是普通的卷积还是分组卷积, 只要有dilation > 1的情况出现, tensorflow在做空洞卷积的时候, 就会执行:

  1. SpaceToBatchND操作
  2. conv操作
  3. BathToSpaceND操作

其中, 第二步的conv操作已经是普通的卷积操作了, 即dilation=1的普通卷积.
tensorflow这样做的目的, 是不改变kernel的值, 而是事先根据dilation的值改变featuremap的值(通过SpaceToBatchND函数), 然后再做普通的卷积, 最后再通过BatchToSpaceND, 将featuremap转换为原有的featuremap直接执行空洞卷积应该得到的结果. 不清楚的看下图:
在这里插入图片描述
在featuremap为4x4, kernel 为2x2, dilation=2的情况下, 卷积核在featuremap上的每次取值为上图中包含相同图标的四个值. 如果直接按照这个方式来做空洞卷积, 那么速度就会非常慢, 所以tensorflow推出SpaceToBatchND函数, 根据dilation的值,提前把featuremap上应该参与卷积的位置给提出来, 然后组成一个大的batch, 接着和kernel做普通的dilation=1的卷积, 最后再根据BatchToSpaceND返回原来应有的结果. 理解了这个, 那么这两个函数的具体操作就很容易理解了, 根据官方源码的介绍:
SpaceToBatchND

最低0.47元/天 解锁文章
MatthewHsw
关注
  • 2
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
tensorflow源码解读之gen_array_ops.py文件的space_to_batch_nd方法
Talk Is Cheap
10-25 3520
这个文件是编译时生成的，在array_ops.py文件的space_to_batch方法调用到。这个操作是atrous_conv2d为了给gen_nn_ops.conv2d传参数之前的参数调整。 而gen_nn_ops.conv2d的input参数一直是[batch, in_height, in_width, in_channels] 例如这里的[1,5,5,1]经过space_to_batch
TensorFlow学习——tf.space_to_batch函数用法解析
c20081052的专栏
05-29 7262
tf.space_to_batch 函数space_to_batch( input, paddings, block_size, name=None )定义在：tensorflow/python/ops/array_ops.py。参见指南：张量变换>分割和连接用于 T 型的4维张量的 SpaceToBatch。 这是更一般的SpaceToBatchND的...
tensflow SpaceToBatchND + conv + BatchToSpaceND
azheng_wen的博客
07-19 1028
参考博客1、https://blog.csdn.net/murdock_c/article/details/87470248 2、https://blog.csdn.net/silence2015/article/details/79748729 总结一下：以一个1x6x6x1(nhwc)为例，假如卷积核大小3x3,stride = 1,dilation=2的卷积。 输入 kernel...
tf.batch_to_space_nd()
我的博客
09-12 2988
tf.batch_to_space_nd() 参数： tf.batch_to_space_nd( input, block_shape, crops, name=None ) 使用案例： import tensorflow as tf inputs = [[[[0], [1], [3]]], [[[0], [9], [11]]], ...
在Java中E nd 是什么意思_tf.space_to_batch_nd（）和tf.batch_to_space_nd（）的用法
weixin_42511151的博客
02-27 288
我正在CNN功能之上实现带有RNN的OCR . 我无法理解tf.space_to_batch_nd()和tf.batch_to_space_nd()的机制 . 我需要在输入层的每个时间(1-dim)切片上应用完全连接的层以将张量等级从4减少到3我通过tf.reshape()实现了这个 . 输入张量形状为[1,84,7,128]，输出应为[1,84,128]我当前的实现是：with tf.varia...
tensorflow函数一览
u010592244的专栏
12-12 4175
tensorflow函数一览 注意： 本文介绍的是version 1.3.0下的函数，有些函数可能在旧版本中没有。 转载请注明出处变天式的博客 前言：名词解释 tensor 张量，可以是一个数，也可以是一个向量、矩阵或者高纬度数据 operator 操作，在tensorflow里面，函数也叫作操作 Uni 一元，表示操作只有一
tensorflow中tf.reduce_mean函数的使用
09-17
主要介绍了tensorflow中tf.reduce_mean函数的使用，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
Tensorflow tf.dynamic_partition矩阵拆分示例(Python3)
09-18
在TensorFlow中，`tf.dynamic_partition`是一个非常实用的操作，它允许我们将数据分割到多个张量中，根据提供的分区索引。这个操作尤其在处理复杂的数据流和模型时很有用，例如在神经网络中实现多任务学习或者进行...
Tensorflow中k.gradients()和tf.stop_gradient()用法说明
09-16
首先，`k.gradients()`是Keras库中的一个函数，它与TensorFlow的`tf.gradients()`功能类似，用于计算损失函数相对于输入变量的梯度。这个函数允许你指定你要计算梯度的输出张量（ys）和输入张量（xs）。在实际应用中...
TensorFlow tf.nn.max_pool实现池化操作方式
09-18
本文将详细讨论如何在TensorFlow中使用`tf.nn.max_pool`函数来实现最大值池化操作。 最大值池化（Max Pooling）是一种常见的池化方法，它的主要思想是从输入特征图中选取每个池化窗口内的最大值作为输出。这有助于...
TensorFlow中 tf.space_to_depth()函数的用法
黄笳倞的博客
04-23 1万+
目录 一、函数定义 二、解释范例 三、代码验证 一、函数定义 通俗易懂些，就是把输入为[batch, height, width, channels]形式的Tensor，其在height和width维的值将移至depth维 space_to_depth( input, block_size, data_format="NHWC", name=No...
PaddlePaddle (飞桨) - space_to_depth
既然选择了远方 便只顾风雨兼程 - 永强
04-11 1868
PaddlePaddle (飞桨) - space_to_depth 1. space_to_depth PaddlePaddle -> API 文档 https://www.paddlepaddle.org.cn/documentation/docs/zh/api/index_cn.html paddle.fluid -> layers -> space_to_depth https://www.paddlepaddle.org.cn/documentation/docs/zh/api/
tf.gather tf.gather_nd 和 tf.batch_gather 使用方法
张冰洋的天空
01-19 1万+
    在计算机视觉的项目中，会遇到根据索引获取数组特定下标元素的任务。常用的函数有tf.gather , tf.gather_nd 和 tf.batch_gather。 1.tf.gather(params,indices,validate_indices=None,name=None,axis=0) 主要参数：params：被索引的张量                     indic...
tf.depth_to_space和torch.nn.pixel_shuffle
CHNguoshiwushuang的博客
07-01 1万+
   最近做项目用到了这两个函数，本人经过仔细对比，认为它们的功能应该是完全一样的，都是将一个较多通道的特征变成较少通道的特征，具体定义如下： def depth_to_space(input, block_size, name=None):    block_size用来说明数据移动的方式。该函数的操作是将block_size x block_size数目的特征图转换成一个不重叠的特征，...
OpenVINO之四：转换TensorFlow模型
mingo_敏
06-15 4508
https://docs.openvinotoolkit.org/latest/_docs_MO_DG_prepare_model_convert_model_Convert_Model_From_TensorFlow.html
Android 9.0 新特性
热门推荐
GenlanFeng的博客
03-09 2万+
Google于2018年3月8日悄无声息的推送了Android P，不出意外的话这也将是Android 9.0的代号。接下来一起看看在这次更新中有哪些新功能吧。 本文参考：Google Developer 新特性 室内WIFI定位 “刘海”屏幕支持 通知 增强体验 通道设置、广播以及免打扰 多相机支持和相机更新 新的图片解码 动画 HDR VP9视频，HEIF图像压缩和媒体API Jo...
关于deeplabV3+ cropsize的说明
sinat_38354963的博客
05-23 3423
使用deeplabV3+做语义分割自训练模型关于cropsize需要注意的地方; python deeplab/train.py \ --logtostderr \ --train_split="train" \ --model_variant="xception_65" \ --atrous_rates=6 \ --atrous_rates=12 \ --atrous_rates=18 \ ...
DeepLabV3+预测单张图片代码实现和问题解决
而濡木染
03-25 5445
问题一：在使用export_model.py进行导出模型并进行网络正向传播的过程中，出现错误: 2019-03-25 17:47:42.896918: W tensorflow/core/framework/allocator.cc:122] Allocation of 62720000 exceeds 10% of system memory. 2019-03-25 17:47:43.105...
tf.space_to_batch_nd
最新发布
12-03
tf.space_to_batch_nd是TensorFlow中的函数，用于将输入的tensor转换为由空间维度（如图像的高度和宽度）和批处理维度组成的新的tensor。 在深度学习中，通常会对图像进行批处理处理，即同时处理多个图像。然而，有些情况下，我们可能想要对大尺寸的图像进行处理，但是由于内存限制或硬件限制，不能一次性处理整个图像。这时，就可以使用tf.space_to_batch_nd函数将大尺寸的图像分割成小块，并进行批处理处理。 tf.space_to_batch_nd函数接受一个4维的输入张量，可以是图像数据或其他具有空间维度的数据。函数通过两个参数来控制输入张量的转换行为： 1. block_shape：一个1-D整数张量，表示将输入张量的每个空间维度划分成多少个块。该参数的长度必须与输入张量的维度相同，且每个值必须大于0。 2. paddings：一个2-D整数张量，表示对输入张量中空间维度块的填充大小。该参数的形状必须与block_shape的长度相同，每个值表示在对应维度上的填充大小。 在转换时，函数会根据block_shape的值将输入张量的空间维度进行切分，然后在每个切分块的周围进行填充。最后，将切分后的块整理成批处理的形式，即将空间维度放在批处理的维度之后。 tf.space_to_batch_nd函数的返回值是一个新的tensor，其形状与输入张量的形状有关。通过这个函数，我们可以方便地对大尺寸的图像进行批处理处理，以提高模型的训练速度和效果。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值