TensorFlow2实现空间自适应归一化（Spatial Adaptive Normalization, SPADE）(1)

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Python全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024c （备注Python）

正文

labels = np.array(Image.open(bmp_file), dtype=np.uint8)

h,w,_ = image.shape

n_class = 12

mask = np.zeros((h,w,n_class),dtype=np.float32)

for i in range(n_class):

one_hot[labels==i,i] = 1

return map, image, mask

[mask, image, label] = tf.py_function(load_data, [image_file], [tf.float32, tf.float32, tf.float32])

了解了独热编码的语义分割掩码的格式后，我们将使用TensorFlow2实现SPADE。

实现SPADE

实例归一化已在图像生成中非常流行，但是它往往会削弱分割蒙版的语义：假设输入图像仅包含一个分割标签；例如，假设整个图像都是天空，由于输入具有统一的值，因此输出在通过卷积层后也将具有统一的值。

实例归一化为每个通道计算跨维度(H, W)的平均值。因此，该通道的均值将是相同的统一值，并且用均值减去后的归一化激活将变为零。显然，语义已经丢失，这是一个十分极端的示例，但是逻辑是相似的，我们可以看到分割掩码随着其面积的增大而失去了其语义含义。

为了解决这个问题，SPADE规范化了由分割蒙版限定的局部区域，而不是整个蒙版。下图显示了SPADE的体系结构：

在批归一化中，计算跨维度(N, H, W)的通道的均值和标准差，对于SPADE来说是相同的。区别在于，每个通道的γ和β不再是标量值，而是二维向量，形状为(H, W)。换句话说，对于每个从语义分割图中获悉的激活，都有一个γ和β值。因此，归一化被不同地应用于不同的分割区域。这两个参数是通过使用两个卷积层来学习的，如下图所示：

SPADE不仅应用于网络输入阶段，同样还应用于内部层。现在，我们可以为使用TensorFlow2的自定义层实现SPADE。

将首先在__init__构造函数中定义卷积层，如下所示：

class SPADE(layers.Layer):

def init(self, filters, epsilon=1e-5):

super(SPADE, self).init()

self.epsilon = epsilon

self.conv = layers.Conv2D(128, 3, padding=‘same’, activation=‘relu’)

self.conv_gamma = layers.Conv2D(filters, 3, padding=‘same’)

self.conv_beta = layers.Conv2D(filters, 3, padding=‘same’)

接下来，获得激活图尺寸，以在以后调整大小时使用：

def build(self, input_shape):

self.resize_shape = input_shape[1:3]

最后，在call()中将层和操作连接在一起，如下所示：

def call(self, input_tensor, raw_mask):

mask = tf.image.resize(raw_mask, self.resize_shape, method=‘nearest’)

x = self.conv(mask)

gamma = self.conv_gamma(x)

beta = self.conv_beta(x)

mean, var = tf.nn.moments(input_tensor, axes=(0,1,2), keepdims=True)

std = tf.sqrt(var+self.epsilon)

normalized = (input_tensor - mean) / std

output = gamma * normalized + beta

return output

接下来，我们将研究如何利用SPADE。

在残差网络中应用SPADE

---

最后，将研究如何将SPADE插入残差块中：

SPADE残差块中的基本构建块是SPADE-ReLU-Conv层。每个SPADE都接受两个输入——上一层的激活和语义分割图。

与标准残差块一样，有两个卷积ReLU层和一个跳跃路径。只要残差块之前和之后的通道数发生变化，就需要进行学习跳跃连接连接。发生这种情况时，前向路径中两个SPADE的输入处的激活图将具有不同的尺寸。但是，我们已经在SPADE块中内置了调整大小的功能。以下是用于SPADE残差块构建所需图层的代码：

class Resblock(layers.Layer):

def init(self, filters):

super(Resblock, self).init()

self.filters = filters

def build(self, input_shape):

input_filter = input_shape[-1]

self.spade_1 = SPADE(input_filter)

self.spade_2 = SPADE(self.filters)

self.conv_1 = layers.Conv2D(self.filters, 3, padding=‘same’)

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）*
[外链图片转存中…(img-Qvf1fEpT-1713390714819)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！